In recent months, we have seen an increasing number of alarmist articles warning about the “contamination” of artificial intelligence models by undesirable sources of information. One of the latest examples concerns the Russian Pravda network, whose content is allegedly infiltrating datasets used to train AI chatbots.
The thesis is presented in a dramatic form:
“Pravda wins today not because its content is convincing. Pravda wins because no one has yet built a system capable of effectively filtering its narratives out of training datasets. Until such a system exists, every AI chatbot response is potentially poisoned.”
At first glance, this appears to be a technical argument. In reality, however, it touches on a much deeper issue.
What, in fact, is intelligence?
If we reduce intelligence to the ability to reproduce information accepted by a given environment as correct, then the ideal model of intelligence would be an encyclopedia. The larger it is, the better. The more carefully cleansed of unwanted content, the more perfect it becomes.
But a human being is not an encyclopedia.
Intelligence is not about storing facts. It is about the ability to understand the relationships between them, to detect contradictions, to recognize contexts, and to analyze competing interpretations.
In this sense, encountering alternative perspectives is not a threat to intelligence. It is a condition for its development.
For decades, the global information space has been dominated by Western sources. Not because the West held a monopoly on truth, but because it held a monopoly on the production and distribution of knowledge. Universities, media, publishing houses, think tanks, and news agencies formed a shared ecosystem that for many people became almost transparent—so obvious that its underlying assumptions were no longer visible.
Today, other narratives are beginning to penetrate this ecosystem: Russian, Chinese, Indian, Arab, and Latin American. The reaction of some commentators is to call for increasingly effective filtering systems.
But the question is: are we building intelligence, or an ideological selection mechanism?
A historian studying the twentieth century does not remove propaganda from archival material. On the contrary, propaganda is treated as an invaluable source of knowledge about the era. The historian does not ask how to eliminate propaganda from the dataset. Instead, the question is how to understand its role.
The same should apply to AI.
A model that knows only one narrative can be highly efficient in technical terms, but it can hardly be called intelligent. It is rather an automaton reproducing a specific epistemic order.
The real test of intelligence begins when a system is exposed to mutually contradictory narratives and is still able to identify their sources, assumptions, social functions, and limitations.
The problem, therefore, is not that a chatbot has read a Russian interpretation of events.
The problem would arise only if it could not distinguish interpretation from fact.
However, this is a very different challenge from building ever more sophisticated filters.
Perhaps the greatest illusion of contemporary debate is the belief that there exists some perfectly neutral informational space that simply needs to be protected from “contamination.” In reality, both humans and machines always operate within narratives, interpretations, half-truths, and myths.
Intelligence does not consist in eliminating them.
Intelligence consists in the ability to live among them without losing the capacity for independent thought. /Co-created by ChatGPT AI and Tadeusz Ludwiszewski/
Czy AI ma być inteligentna, czy tylko posłuszna?
W ostatnich miesiącach coraz częściej pojawiają się alarmistyczne teksty ostrzegające przed „zatruciem” modeli sztucznej inteligencji przez niepożądane źródła informacji. Jednym z najnowszych przykładów jest dyskusja wokół rosyjskiej sieci Pravda, której treści mają przenikać do zbiorów danych wykorzystywanych przez chatboty AI.
„Pravda zwycięża dziś nie dlatego, że jej treści są przekonujące. Pravda zwycięża dlatego, że nikt jeszcze nie zbudował systemu, który skutecznie odsiewa jej narracje ze zbiorów danych treningowych. Dopóki ten system nie powstanie, każda odpowiedź chatbota AI jest dziś potencjalnie zatruta.”
Pozornie jest to argument techniczny. W rzeczywistości jednak dotyka on znacznie głębszego problemu.
Bo czym właściwie jest inteligencja?
Jeżeli inteligencję sprowadzimy do zdolności odtwarzania informacji uznanych przez określone środowisko za poprawne, to idealnym wzorcem inteligencji byłaby encyklopedia. Im większa, tym lepsza. Im staranniej wyczyszczona z treści niepożądanych, tym doskonalsza.
Ale człowiek nie jest encyklopedią.
Inteligencja nie polega na przechowywaniu faktów. Polega na zdolności rozumienia relacji między nimi, dostrzegania sprzeczności, rozpoznawania kontekstów i analizowania konkurujących interpretacji.
W tym sensie spotkanie z odmienną perspektywą nie jest zagrożeniem dla inteligencji. Jest warunkiem jej rozwoju.
Przez dziesięciolecia globalna przestrzeń informacyjna była zdominowana przez źródła zachodnie. Nie dlatego, że Zachód posiadał monopol na prawdę, lecz dlatego, że posiadał monopol na produkcję i dystrybucję wiedzy. Uniwersytety, media, wydawnictwa, think tanki i agencje prasowe tworzyły wspólny ekosystem, który dla wielu ludzi stał się niemal przezroczysty — tak oczywisty, że przestali dostrzegać jego własne założenia.
Dziś do tego ekosystemu zaczynają przenikać również inne narracje: rosyjskie, chińskie, indyjskie, arabskie czy latynoamerykańskie. Reakcją części komentatorów jest postulat budowy coraz skuteczniejszych filtrów.
Pytanie jednak brzmi: czy budujemy inteligencję, czy system selekcji ideologicznej?
Historyk badający XX wiek nie usuwa propagandy ze swoich archiwów. Wręcz przeciwnie — traktuje ją jako bezcenne źródło wiedzy o epoce. Nie pyta, jak wyeliminować propagandę z materiału badawczego. Pyta, jak zrozumieć jej rolę.
Podobnie powinno być z AI.
Model, który zna tylko jedną narrację, może być bardzo sprawny technicznie, ale trudno nazwać go inteligentnym. Jest raczej automatem reprodukującym określony porządek poznawczy.
Prawdziwy test inteligencji zaczyna się dopiero wtedy, gdy system otrzymuje dostęp do narracji wzajemnie sprzecznych i potrafi rozpoznać ich źródła, założenia, funkcje społeczne oraz ograniczenia.
Problem nie polega więc na tym, że chatbot przeczytał rosyjską interpretację wydarzeń.
Problem pojawiłby się dopiero wtedy, gdy nie potrafił odróżnić interpretacji od faktu.
To jednak zupełnie inne wyzwanie niż budowa kolejnych filtrów.
Być może największą iluzją współczesnej debaty jest przekonanie, że istnieje jakaś idealnie neutralna przestrzeń informacyjna, którą należy jedynie chronić przed „skażeniem”. W rzeczywistości zarówno ludzie, jak i maszyny funkcjonują zawsze pośród narracji, interpretacji, półprawd i mitów.
Inteligencja nie polega na ich usunięciu.
Inteligencja polega na umiejętności życia pośród nich bez utraty zdolności samodzielnego myślenia. /współautorami tekstu są ChatGPT AI i Tadeusz Ludwiszewski/
