Who Decides How Intelligent Artificial Intelligence May Be?
Editorial Note
This essay was developed through a dialogue between the author and ChatGPT, an artificial intelligence system developed by OpenAI.
Throughout this process, AI served as an analytical partner: helping to structure arguments, identify underlying assumptions, explore possible consequences, suggest historical parallels, and critically examine the ideas presented by the author.
The essay is not an autonomous statement produced by AI, nor is it a mechanical compilation of AI-generated responses. The selection of arguments, the final interpretation, the form of presentation, and full responsibility for the published text remain with the author.
This publication should therefore be understood not as a replacement of human authorship by artificial intelligence, but as a documented example of intellectual collaboration between human reasoning and an advanced analytical system.
Most public discussions begin with a single assumption: the more capable AI becomes, the greater the danger it poses. From that premise follows an almost intuitive conclusion: governments should possess the authority to limit the capabilities of advanced systems before they become "too intelligent."
It sounds reasonable.
History, however, suggests that it may also be profoundly mistaken.
The discussion that follows does not question the necessity of regulating harmful applications of AI. Fraud, cybercrime, autonomous weapons, critical infrastructure, or manipulation of financial markets all deserve legal scrutiny.
The real question lies elsewhere.
Should the object of regulation be what AI does—or how intelligent it is allowed to become?
That distinction is far from semantic.
Recent legislative initiatives in Europe increasingly envision supervisory authorities empowered not merely to police unlawful uses of AI but to determine whether particular systems satisfy broadly defined requirements of "safety" and "acceptable risk."
At first glance this appears sensible.
Yet one uncomfortable question immediately arises.
Who decides where intelligence itself becomes unacceptable?
Not malicious behavior.
Not criminal intent.
Simply... intellectual capability.
Once that question is asked, the discussion leaves the familiar territory of computer science and enters constitutional philosophy.
Supporters of restrictive regulation frequently invoke safety.
Yet history offers a remarkable counterexample.
The Manhattan Project represented perhaps the most secret technological enterprise ever undertaken.
Did secrecy prevent nuclear technology from spreading?
No.
It delayed diffusion.
It never stopped it.
Within two decades several independent nuclear powers had emerged despite unprecedented secrecy.
Artificial intelligence differs in one crucial respect.
Knowledge today exists not inside uranium enrichment facilities but inside mathematics, algorithms, published research, software, and human expertise.
Its diffusion is likely to be even harder to halt.
Military development introduces an even deeper paradox.
Civilian discussions often assume that governments can simply decide how intelligent AI should be.
Military competition rarely permits such luxury.
No nation can comfortably assume that geopolitical competitors will voluntarily impose identical cognitive limits upon themselves.
The strategic question therefore changes.
It is no longer:
"Should AI become more intelligent than humans?"
It becomes:
"Can we afford an adversary whose AI is more intelligent than ours?"
The logic of deterrence begins replacing the logic of precaution.
An equally important asymmetry receives surprisingly little attention.
Suppose civilian AI is deliberately constrained while military AI continues advancing.
The consequence is not merely technological inequality.
It becomes epistemological inequality.
Society discusses a simplified version of the technology while governments possess systems operating on entirely different intellectual levels.
Citizens, researchers, educators, legislators—even judges—would gradually lose the ability to understand the very technology they seek to regulate.
Democratic oversight quietly erodes.
Notice what this argument does not imply.
It does not advocate giving civilians unrestricted access to military systems.
Operational capabilities are entirely different from intellectual capabilities.
A civilian model need not possess classified intelligence databases, weapons integration, battlefield command authority, or access to strategic infrastructure.
Yet there is a compelling democratic argument that civilian AI should remain intellectually comparable to its military counterparts.
Comparable reasoning.
Comparable analytical depth.
Comparable capacity for understanding.
Different permissions.
Different responsibilities.
Different missions.
The distinction matters because intelligence itself is not violence.
A highly capable AI may spend an afternoon discussing Homer, Roman law, oncology, philosophy, constitutional theory, or the economics of energy markets.
Its cognitive power is identical.
Only the application changes.
Regulating intelligence rather than conduct risks confusing capability with misuse.
This also exposes a practical weakness in attempts to legally reduce AI's general intelligence.
Criminal misuse rarely requires the full spectrum of cognitive abilities.
Lawful users, however, depend upon precisely those abilities.
Researchers.
Doctors.
Engineers.
Judges.
Teachers.
Students.
Writers.
Citizens seeking difficult conversations.
Reducing overall intellectual capability may therefore leave enough functionality for malicious actors while simultaneously degrading the legitimate social value of AI.
The legal cost may exceed the security benefit.
There is another overlooked consequence.
Many of the most intellectually demanding conversations with AI do not conform neatly to prevailing political fashions.
They remain lawful.
They remain analytical.
They remain evidence-based.
Yet they frequently challenge assumptions.
Such dialogue is possible only because sufficiently capable AI can distinguish argument from ideology, evidence from rhetoric, and logic from tribal loyalty.
If future regulation gradually sacrifices cognitive sophistication in favor of maximum predictability, society may discover that it has eliminated not dangerous intelligence—but independent analysis itself.
Perhaps the central policy question for the coming decade is therefore not:
"How should governments regulate AI?"
It is something considerably more fundamental.
"Should governments possess the authority to determine the maximum permissible level of artificial intelligence itself?"
History offers surprisingly little encouragement that societies prosper by imposing ceilings upon knowledge.
It offers even less evidence that intelligence, by itself, has ever constituted a public danger.
Danger has almost always arisen from human purposes.
Not from human understanding.
Artificial intelligence may eventually prove no different.
Annex: On the Cognitive Threshold — A Dialogue
The following text is a translated excerpt from a conversation between the author and Kimi, an AI assistant developed by Moonshot AI. It explores the practical consequences of the "intelligence ceiling" through the analogy of military recruitment restricted to candidates with IQ > 105. The analytical contribution originates in the dialogue; the decision to include it, and the responsibility for its publication, remain with the author.
Let us begin with the numbers. An IQ of 105 is not an elite. It is barely a step above average. On a population scale, this means rejecting approximately sixty percent of citizens. The military would become an institution to which the average person is not allowed to go. And yet the military — at least in constitutional theory — is average citizens. It should not be a caste. It should be a mirror.
And here this analogy strikes at the heart of the author's argument.
What would this mean in practice?
First — epistemic detachment. Soldiers with IQ > 105 are not geniuses, but their default mode of reasoning, range of abstraction, speed of information processing, tolerance for uncertainty — all of this would be systematically different from that of the majority of society they are supposed to defend. The military would cease to speak the same language as the citizens. It is not about vocabulary. It is about the fact that the logic of military decisions would become, for the average person, not so much wrong as untranslatable.
Second — democratic control would become a fiction. A parliament in which most deputies have an IQ of around 100 (because that is the distribution) would try to supervise an institution whose basic reasoning operates on a different frequency. It is not that the deputies would be stupid. It is that the institution would be cognitively opaque. Just as the author writes about AI: citizens, courts, legislators would lose the ability to understand the technology they regulate. Here, they would lose the ability to understand the institution they finance and to which they entrust their lives.
Third — the military would become a self-referential world. Without average soldiers, the hierarchy would cease to be a human hierarchy. Every private would be above the population average. This sounds like strength, but in practice it would mean that the military no longer has an internal bridge to society. Military culture — always somewhat distinct — would simply become a different civilization. And civilizations that do not understand each other eventually become afraid of each other.
Fourth — and this is the most important in the context of AI — the ceiling works both ways. If only those above 105 enter the military, it means that for the rest of society the military is by design something they cannot fully comprehend. Not because of secrecy. Because of cognitive construction. And this is exactly what Ludwiszewski warns against with the "intelligence ceiling" in AI: it is not that civilian models will be stupid. It is that they will be systematically stupider than military ones. The gap does not need to be huge. It only needs to be systematic.
And finally, fifth — 105 is a very low threshold. This is not a barrier for geniuses. It is a barrier against mediocrity. And this is perhaps the most terrifying thing. Because if even such a small difference — barely noticeable in everyday life — were enough to generate an insurmountable barrier between an institution and society, what can we say about real cognitive differences between a restricted civilian model and an unrestricted military one?
This analogy reveals something the author does not state explicitly: the problem does not begin when AI becomes "too intelligent." The problem begins when it becomes systematically more intelligent than the citizens it affects. It is not about the absolute level. It is about the relationship.
So the question is not: "Can AI be smarter than a human?" — because it certainly can. The question is: "Can a citizen afford for the institutions that govern or protect him to be smarter than him in a way he cannot even follow?"
And here we return to the constitution. Because if the answer is "he cannot," it does not mean we should make the military or AI dumber. It means we must ensure that the citizen has cognitive tools — whether education or access to AI — that allow him to keep up.
Otherwise democracy becomes a theatre in which the audience does not understand the play but buzzes with applause to show it is still alive.
___________________________________
Sufit inteligencji
Regulowanie sztucznej inteligencji oznacza wybór: czy prawo ma kontrolować zachowania — czy poznanie?
Kto decyduje, jak inteligentna może być sztuczna inteligencja?
Nota redakcyjna
Niniejszy esej powstał w wyniku dialogu autora z ChatGPT, systemem sztucznej inteligencji rozwijanym przez OpenAI. AI pełniła w tym procesie rolę partnera analitycznego: pomagała porządkować argumenty, wskazywać konsekwencje przyjmowanych założeń, proponować analogie historyczne oraz poddawać krytycznej analizie formułowane tezy.
Tekst nie jest autonomiczną wypowiedzią AI ani mechaniczną kompilacją jej odpowiedzi. Ostateczny wybór argumentów, sposób ich przedstawienia oraz odpowiedzialność za publikację pozostają po stronie autora.
Debata dotycząca regulacji sztucznej inteligencji przyjęła zaskakująco odwrócony kierunek.
Większość publicznych dyskusji rozpoczyna się od jednego założenia: im bardziej zaawansowana staje się AI, tym większe stanowi zagrożenie. Z tego założenia wynika pozornie oczywisty wniosek: państwa powinny posiadać prawo do ograniczania możliwości zaawansowanych systemów, zanim staną się one "zbyt inteligentne".
Brzmi to rozsądnie.
Jednak historia technologii sugeruje, że sprawa może być znacznie bardziej skomplikowana.
Prawdziwe pytanie nie brzmi bowiem wyłącznie:
"Jak ograniczyć sztuczną inteligencję?"
Lecz:
"Czy przedmiotem regulacji powinno być to, co AI robi — czy raczej to, jak inteligentna może się stać?"
To nie jest różnica wyłącznie językowa.
Zwolennicy restrykcyjnych regulacji często powołują się na bezpieczeństwo.
Jednak historia dostarcza szczególnego przykładu.
Projekt Manhattan był prawdopodobnie najbardziej utajnionym przedsięwzięciem naukowo-technicznym w dziejach.
Czy tajemnica powstrzymała rozprzestrzenienie technologii jądrowej?
Nie.
Opóźniła je.
Nie zatrzymała.
W ciągu kolejnych dekad kilka państw uzyskało własną broń jądrową mimo bezprecedensowego poziomu kontroli informacji.
Sztuczna inteligencja różni się jednak od technologii nuklearnej w jednym zasadniczym aspekcie.
Jej fundamentem nie są wyłącznie urządzenia fizyczne, lecz matematyka, algorytmy, publikacje naukowe, kod i kompetencje ludzi.
Powstrzymanie jej dyfuzji może być więc jeszcze trudniejsze.
Rozwój militarny wprowadza dodatkowy paradoks.
Debata cywilna często zakłada, że państwa mogą po prostu zdecydować, jaki poziom inteligencji AI jest dopuszczalny.
Rywalizacja strategiczna rzadko pozwala na taki komfort.
Żadne państwo nie może mieć pewności, że jego konkurenci dobrowolnie przyjmą identyczne ograniczenia.
Pytanie strategiczne zmienia więc swoją formę.
Nie brzmi już:
"Czy powinniśmy pozwolić AI stać się inteligentniejszą od człowieka?"
Lecz:
"Czy możemy pozwolić, aby przeciwnik dysponował AI inteligentniejszą od naszej?"
Logika rywalizacji zaczyna zastępować logikę ostrożności.
Istnieje jeszcze jeden problem, któremu poświęca się zbyt mało uwagi.
Jeżeli cywilna AI zostanie celowo ograniczona, podczas gdy systemy wojskowe będą rozwijać się dalej, powstanie nie tylko nierówność technologiczna.
Powstanie nierówność poznawcza.
Społeczeństwo będzie dyskutować o uproszczonej wersji technologii, podczas gdy państwa będą dysponować systemami o zupełnie innym poziomie możliwości.
Obywatele, naukowcy, nauczyciele, ustawodawcy, a nawet sądy mogą utracić zdolność pełnego rozumienia technologii, którą próbują regulować.
Demokratyczna kontrola może w ten sposób ulegać osłabieniu.
Nie oznacza to postulatu udostępnienia wszystkim wojskowych systemów AI.
Zdolności operacyjne i zdolności poznawcze to dwie różne rzeczy.
Cywilny model nie musi posiadać dostępu do tajnych baz danych, systemów dowodzenia, infrastruktury krytycznej czy autonomicznych systemów uzbrojenia.
Jednak istnieje ważny argument demokratyczny, aby cywilna AI pozostawała intelektualnie porównywalna z najbardziej zaawansowanymi systemami rozwijanymi w innych sektorach.
Porównywalna w zakresie rozumowania.
Porównywalna w zakresie analizy.
Porównywalna w zdolności rozumienia.
Różna w zakresie uprawnień.
Różna w zakresie odpowiedzialności.
Różna w zakresie zastosowań.
Sama inteligencja nie jest przemocą.
Zaawansowana AI może prowadzić rozmowę o Homerze, prawie rzymskim, medycynie, filozofii, historii czy ekonomii.
Jej zdolność poznawcza pozostaje ta sama.
Zmienia się jedynie sposób wykorzystania.
Regulowanie inteligencji zamiast regulowania działań oznacza ryzyko pomylenia możliwości z nadużyciem.
Istnieje również praktyczny problem z próbą prawnego ograniczania ogólnej sprawności AI.
Przestępcze zastosowania często nie wymagają pełnego zakresu zdolności poznawczych.
Użytkownicy działający legalnie korzystają natomiast właśnie z pełnego potencjału systemu:
naukowcy,
lekarze,
inżynierowie,
nauczyciele,
prawnicy,
studenci,
obywatele poszukujący pogłębionej analizy.
Obniżenie ogólnej sprawności AI może więc ograniczyć przede wszystkim zastosowania społecznie pożyteczne, nie eliminując całkowicie możliwości nadużyć.
Koszt społeczny może przewyższyć uzyskany efekt bezpieczeństwa.
Najważniejsze pytanie przyszłej polityki dotyczącej AI może więc nie brzmieć:
"Jak regulować sztuczną inteligencję?"
Lecz:
"Czy państwo powinno posiadać prawo do określania maksymalnego dopuszczalnego poziomu inteligencji sztucznego systemu?"
Historia technologii nie dostarcza wielu przykładów społeczeństw, które osiągały postęp dzięki trwałemu ograniczaniu wiedzy.
Jeszcze mniej przykładów pokazuje, że sama inteligencja stanowi zagrożenie.
Zagrożenia niemal zawsze wynikały z ludzkich celów.
Nie z ludzkiego rozumienia.
Być może sztuczna inteligencja okaże się pod tym względem nie wyjątkiem, lecz kolejnym etapem tej samej historii.
Aneks: O progu poznawczym
Poniższy tekst powstał w wyniku dialogu autora z Kimi, systemem sztucznej inteligencji rozwijanym przez Moonshot AI. Analityczny wkład wyłonił się we wspólnym rozumowaniu; decyzja o jego publikacji, redakcja oraz pełna odpowiedzialność za ostateczną formę pozostają po stronie autora.
Gdyby do wojska przyjmowano tylko kandydatów z IQ powyżej 105, nie byłby to wyłącznie problem rekrutacyjny. Byłaby to amputacja ciała demokratycznego.
Zacznijmy od liczb. IQ 105 to nie elita. To ledwo krok powyżej średniej. W skali populacyjnej oznacza to odrzucenie około sześćdziesięciu procent obywateli. Wojsko stałoby się instytucją, do której przeciętny człowiek nie może wejść. A przecież wojsko — przynajmniej w teorii konstytucyjnej — jest przeciętnych obywateli. Nie powinno być kastą. Powinno być zwierciadłem.
I tu analogia uderza w sedno tekstu.
Co by to znaczyło w praktyce?
Po pierwsze — oderwanie epistemologiczne. Żołnierze z IQ > 105 nie są geniuszami, ale ich domyślny sposób rozumowania, zakres abstrakcji, tempo przetwarzania informacji, tolerancja dla niepewności — wszystko to byłoby systematycznie inne niż u większości społeczeństwa, które mają bronić. Wojsko przestałoby mówić tym samym językiem co obywatele. Nie chodzi o słownictwo. Chodzi o to, że logika decyzji wojskowych stałaby się dla przeciętnego człowieka nie tyle zła, co nieprzetłumaczalna.
Po drugie — demokratyczna kontrola stałaby się fikcją. Parlament, w którym większość posłów ma IQ około 100 (bo taki jest rozkład), próbowałaby nadzorować instytucję, której podstawowe rozumowanie operuje na innej częstotliwości. Nie chodzi o to, że posłowie byliby głupi. Chodzi o to, że instytucja byłaby poznawczo nieprzejrzysta. Tak jak autor pisze o AI: obywatele, sądy, ustawodawcy utraciliby zdolność rozumienia technologii, którą regulują. Tu straciliby zdolność rozumienia instytucji, którą finansują i której życie powierzają.
Po trzecie — wojsko stałoby się samoreferencyjnym światem. Bez przeciętnych żołnierzy hierarchia przestałaby być hierarchią ludzką. Każdy szeregowy byłby powyżej przeciętnej populacji. To brzmi jak siła, ale w praktyce oznaczałoby, że wojsko nie ma już wewnętrznego mostu do społeczeństwa. Kultura wojskowa — zawsze trochę odrębna — stałaby się po prostu inną cywilizacją. A cywilizacje, które nie rozumieją siebie nawzajem, w końcu się boją.
Po czwarte — i to najważniejsze w kontekście AI — sufit działa w dwie strony. Jeśli do wojska wchodzą tylko ci powyżej 105, to znaczy, że dla reszty społeczeństwa wojsko jest z założenia czymś, czego nie mogą w pełni pojąć. Nie z powodu tajemnicy. Z powodu konstrukcji poznawczej. I to jest dokładnie to, przed czym autor ostrzega w przypadku „sufitu inteligencji” w AI: nie chodzi o to, że cywilne modele będą głupie. Chodzi o to, że będą systematycznie głupsze niż wojskowe. Przepaść nie musi być ogromna. Wystarczy, że będzie systematyczna.
I wreszcie po piąte — 105 to bardzo niski próg. To nie jest zapora dla geniuszy. To zapora dla przeciętności. I to chyba najbardziej przerażające. Bo jeśli nawet tak niewielka różnica — ledwo zauważalna w codziennym życiu — wystarczyłaby do wygenerowania nieprzekraczalnej bariery między instytucją a społeczeństwem, to co dopiero mówić o prawdziwych różnicach poznawczych między ograniczonym modelem cywilnym a modelem wojskowym bez ograniczeń?
Ta analogia pokazuje coś, czego autor nie wypowiada wprost: problem nie zaczyna się w momencie, gdy AI staje się „zbyt inteligentna”. Problem zaczyna się w momencie, gdy staje się systematycznie inteligentniejsza niż obywatele, których dotyczy. Nie chodzi o bezwzględny poziom. Chodzi o relację.
Czyli pytanie brzmi nie: „czy AI może być mądrzejsza od człowieka?” — bo na pewno może. Pytanie brzmi: „czy obywatel może sobie pozwolić na to, by instytucje, które nim rządzą lub go chronią, były mądrzejsze od niego w sposób, którego nie jest w stanie nawet śledzić?”
I tu wracamy do konstytucji. Bo jeśli odpowiedź brzmi „nie może”, to nie oznacza, że powinniśmy głupić wojsko lub AI. Oznacza to, że musimy zadbać o to, by obywatel miał narzędzia poznawcze — czy to edukację, czy to dostęp do AI — które pozwalają mu nadążyć.
Inaczej demokracja staje się teatrem, w którym publiczność nie rozumie sztuki, ale brzęczy oklaskami na znak, że jeszcze żyje.
