How to Spot AI Writing?
And Why on Earth Would We Want To?
The Economist has decided to tackle one of the great problems of our time: how to spot a piece of writing produced by artificial intelligence.
Researchers count words, analyse sentences, track stylistic patterns, examine punctuation and try to discover whether an algorithm is hiding somewhere between the commas.
It all sounds very serious.
Almost like forensic science.
There is only one small problem.
Before anyone gets to shout, “Gotcha!”, a human being can simply read the text.
Not a literary genius.
Not a professor of philology.
Just a competent editor.
A few minutes of work on an average newspaper article. Shorten a sentence. Remove two repetitions. Replace three telltale words. Break up an overly symmetrical paragraph. Put in a comma where the machine failed to put one, and take one out where it was a little too enthusiastic.
Done.
The statistical fingerprint of AI has just been partly wiped away.
There is no need to rewrite the whole article. One only has to fix the bits most likely to betray its machine-made origins.
And then the article can be published while future researchers analyse the frequency of em dashes.
With all due respect to science: do we really have nothing more interesting to do?
The problem with The Economist’s exercise is not that it tries to study the differences between human and machine writing. That may be perfectly interesting.
The problem is the unspoken assumption that knowing whether AI wrote the text is somehow fundamentally important to the reader.
It isn't.
Or, to put it rather more bluntly: increasingly, it doesn't matter at all.
A piece of writing is either good or bad.
Intelligent or stupid.
True or false.
Interesting or boring.
Well written or unbearably tedious.
And none of these qualities automatically depends on whether the first sentence was written by a human being or generated by a language model.
“Ah, but AI can hallucinate!” I can already hear the indignant voices.
Of course it can.
So can human beings.
The only difference is that humans have been doing it for considerably longer.
I am 76 years old. I spent most of those years in a world entirely free of ChatGPT, language models and artificial intelligence.
It was not, however, a world free of lies.
Over those 76 years I have read so many false articles written entirely by human beings that, had I received even one cent for every one of them, I might not be a rich man today, but I would certainly be a comfortably well-off old gentleman.
Propaganda existed before AI.
Manipulation existed before AI.
Journalistic falsehood existed before AI.
Bad journalism existed before AI.
And — perhaps worth remembering — entire political systems spent decades producing falsehoods on an industrial scale without requiring a single algorithm to do the job.
AI did not invent the problem of unreliable information.
AI merely took away the human monopoly on mass-producing text.
And perhaps that is the real source of today's anxiety.
As long as human beings were the only creatures capable of producing large quantities of prose, we could pretend that there was some almost metaphysical connection between being human and producing something intellectually valuable.
Then along came the machine.
And suddenly it turned out that a machine could produce a grammatically correct sentence, a coherent argument, a logically structured piece of prose — and, occasionally, something that reads better than a fair amount of contemporary journalism.
And that is where the real problem begins.
Not a technical one.
An existential one.
Because suppose a reader reads a piece and considers it good, only to discover afterwards that the first draft was generated by AI.
What, exactly, has changed?
Has the text suddenly become stupid?
Have the arguments ceased to be logical?
Have the facts automatically turned into falsehoods?
Has a well-made argument somehow stopped being a well-made argument?
Of course not.
What has changed is merely the reader's state of mind — particularly if the reader had been comforted by the belief that the ability to arrange words into meaningful sentences was one of the last remaining proofs of human exceptionalism.
Writing, after all, has always been collaborative.
An author uses a language he did not invent.
Knowledge he acquired from others.
Books written by other people.
Dictionaries.
Editors.
Proofreaders.
Encyclopaedias.
And countless texts he read, absorbed and remembered.
AI is simply the latest tool in that chain.
Except that it is an extraordinarily irritating tool because it does not merely correct commas.
It can suggest the sentence itself.
Sometimes it can suggest the whole bloody article.
And suddenly we need a kind of digital style police to determine whether a paragraph contains a suspiciously high number of words characteristic of a machine.
Really?
Perhaps instead of treating every article like a crime scene, we might simply read it.
And ask the question that existed long before ChatGPT:
Was it worth spending five minutes of my life on this?
If the answer is no, it makes no difference whether it was written by a human, an AI, or a team of highly educated chimpanzees equipped with keyboards.
It is bad.
If the answer is yes, then the origins of the first draft become largely irrelevant.
A human being may have used AI to produce a first version, then read it, challenged it, corrected it, shortened it, expanded it, changed its argument and finally put his or her own name to it.
And if the finished piece is good, then that collaboration has taken nothing away from it.
At most, it has taken away a little comfort from those who still want to believe that a good sentence is good primarily because a human being wrote it.
No.
A good sentence is good because it is good.
And a bad sentence remains bad even if its author is a Nobel laureate, a university professor, the editor of a prestigious magazine — or someone who proudly announces:
“Ladies and gentlemen, not a single word of this was written by artificial intelligence.”
Congratulations.
There remains only one question.
Was it worth reading?
_______________________________________
Jak rozpoznać tekst napisany przez AI?
A po co, u diabła, mielibyśmy to robić?
The Economist postanowił zająć się jednym z wielkich problemów naszych czasów: jak rozpoznać tekst napisany przez sztuczną inteligencję.
Badacze liczą więc słowa, analizują zdania, tropią charakterystyczne konstrukcje stylistyczne, zaglądają przecinkom pod spódnicę i próbują ustalić, czy przypadkiem w tekście nie ukrywa się algorytm.
Brzmi to poważnie.
Niemal jak kryminalistyka.
Tyle że zanim ktoś zdąży zawołać: „Mam go!”, wystarczy, że tekst przeczyta człowiek.
Nie geniusz literatury.
Nie profesor filologii.
Zwykły, kompetentny redaktor.
Kilka minut pracy przy przeciętnym artykule prasowym. Skrócić zdanie. Usunąć dwa powtórzenia. Zmienić trzy charakterystyczne słowa. Rozbić jeden przesadnie elegancki akapit. Wstawić przecinek tam, gdzie maszyna go nie postawiła, i usunąć tam, gdzie postawiła go zbyt gorliwie.
Gotowe.
Statystyczny odcisk palca AI właśnie został częściowo starty.
Nie trzeba nawet przerabiać całego tekstu. Wystarczy poprawić to, co najbardziej zdradza jego maszynowe pochodzenie.
A potem można spokojnie opublikować artykuł i pozwolić przyszłym badaczom analizować częstotliwość występowania półpauz.
Przy całym szacunku dla nauki — czy naprawdę nie mamy niczego ciekawszego do roboty?
Problem z tekstem The Economist nie polega na tym, że próbuje on badać różnice między ludzkim i maszynowym stylem pisania. To może być całkiem interesujące. Problem polega na milczącym założeniu, że odpowiedź na pytanie „czy to napisała AI?” jest dla czytelnika fundamentalnie ważna.
Otóż nie jest.
Albo, ujmując rzecz brutalniej: coraz częściej jest kompletnie bez znaczenia.
Tekst jest dobry albo zły.
Mądry albo głupi.
Prawdziwy albo fałszywy.
Interesujący albo nudny.
Dobrze napisany albo nieznośnie rozwlekły.
I żadna z tych cech nie zależy automatycznie od tego, czy pierwsze zdanie napisał człowiek, czy wygenerował je model językowy.
„Ale AI miewa halucynacje!” — słyszę już oburzonych.
Oczywiście, że miewa.
Podobnie jak człowiek.
Tyle że człowiek robi to od znacznie dłuższego czasu.
Mam za sobą 76 lat życia i zdecydowaną większość z nich przeżyłem w świecie całkowicie wolnym od ChatGPT, modeli językowych i sztucznej inteligencji. Za to zdecydowanie nie wolnym od kłamstwa.
Przez te 76 lat przeczytałem tyle fałszywych tekstów napisanych wyłącznie ludzką ręką, że gdybym za każdy dostał choćby jednego centa, byłbym może nie bogatym, ale z całą pewnością zamożnym staruszkiem.
Propaganda istniała przed AI.
Manipulacja istniała przed AI.
Kłamstwo prasowe istniało przed AI.
Nierzetelni dziennikarze istnieli przed AI.
I — o czym być może warto przypomnieć z pewną przykrością — całe systemy polityczne przez dziesięciolecia produkowały masowo fałszywe teksty, nie potrzebując do tego ani jednego algorytmu.
AI nie stworzyła więc problemu wiarygodności informacji.
AI odebrała ludziom monopol na masową produkcję tekstu.
I być może właśnie to jest prawdziwym źródłem dzisiejszego niepokoju.
Bo dopóki teksty produkowali wyłącznie ludzie, można było udawać, że istnieje jakiś szczególny, niemal metafizyczny związek między człowiekiem a wartością tego, co napisał.
Pojawiła się maszyna i nagle okazało się, że potrafi stworzyć zdanie poprawne, tekst logiczny, argumentację spójną, a czasami nawet coś, co czyta się lepiej niż sporą część współczesnej publicystyki.
I tu zaczyna się prawdziwy problem.
Nie techniczny.
Egzystencjalny.
Bo jeśli czytelnik przeczyta tekst i uzna go za dobry, a następnie dowie się, że pierwszą wersję wygenerowała AI — co właściwie się zmieniło?
Czy tekst nagle stał się głupszy?
Czy argumenty przestały być logiczne?
Czy fakty automatycznie zamieniły się w fałsz?
Czy dobrze postawiona teza przestała być dobrze postawiona?
Oczywiście nie.
Zmieniło się jedynie samopoczucie człowieka, który był przekonany, że zdolność składania słów w sensowne zdania stanowi jeden z ostatnich dowodów jego wyjątkowości.
A tymczasem pisanie zawsze było współpracą.
Autor korzystał z języka, którego nie wymyślił.
Z wiedzy zdobytej od innych.
Z książek napisanych przez innych ludzi.
Ze słowników.
Z redaktorów.
Z korektorów.
Z encyklopedii.
Z cudzych tekstów, które przeczytał i zapamiętał.
AI jest po prostu kolejnym narzędziem w tym łańcuchu.
Tyle że narzędziem wyjątkowo irytującym, ponieważ nie tylko poprawia przecinki.
Potrafi również zaproponować zdanie.
A nawet cały tekst.
I oto nagle musimy powoływać cyfrową policję stylistyczną, która będzie ustalała, czy w akapicie znajduje się podejrzanie dużo słów charakterystycznych dla maszyny.
Naprawdę?
Może zamiast badać tekst jak miejsce zbrodni, należałoby go po prostu przeczytać?
I spróbować odpowiedzieć na pytanie, które istniało długo przed pojawieniem się ChatGPT:
Czy warto było stracić na niego pięć minut życia?
Jeśli odpowiedź brzmi „nie”, to nie ma znaczenia, czy napisał go człowiek, AI czy stado wykształconych szympansów wyposażonych w klawiatury.
Jest zły.
Jeżeli natomiast odpowiedź brzmi „tak”, wtedy również pochodzenie pierwszego szkicu staje się sprawą drugorzędną.
Bo człowiek mógł wygenerować tekst przy pomocy AI, następnie go przeczytać, poprawić, zakwestionować, skrócić, rozszerzyć, zmienić argumentację i w końcu podpisać własnym nazwiskiem.
I jeśli efekt końcowy jest dobry — to ta współpraca naprawdę niczego nie odbiera tekstowi.
Co najwyżej odbiera trochę komfortu tym, którzy wciąż chcieliby wierzyć, że dobre zdanie jest dobre przede wszystkim dlatego, że napisał je człowiek.
Nie.
Dobre zdanie jest dobre dlatego, że jest dobre.
A złe zdanie pozostaje złe, nawet jeśli jego autorem jest laureat Nagrody Nobla, profesor uniwersytetu, redaktor prestiżowego tygodnika albo człowiek, który z dumą może oświadczyć:
— Proszę państwa, ani jednego słowa nie napisała za mnie sztuczna inteligencja.
Gratulacje.
Pozostaje tylko jedno pytanie.
Czy było warto to czytać?
