I dag förekommer det att människor använder mer eller mindre avancerade AI-verktyg för att knäcka sina meningsmotståndare i debatter på olika internetforum. Det är verkliga personer som sitter bakom skärmen men de publicerar uteslutande AI-genererade texter i stället för att själva ge uttryck för sina tankar eller åsikter. Fenomenet märks tydligt genom att inlägg efter inlägg konsekvent inleds på liknande sätt rent språkligt, t.ex. med infinitivmärket att. Vidare spottar användaren som regel ur sig invecklade och intellektuellt skarpa resonemang på omänskligt kort tid; ofta eller alltid med en mästrande ton som ger skenet av att vederbörande själv har komponerat dessa rader, om än krystat. Men den språkliga AI-typiska tonen avslöjar dem relativt snabbt om man bara är förmögen att identifiera vissa mönster.
Tekniken finns tillgänglig redan i dag, och den kommer under namn som "AI-svärmar" eller "Weaponized LLMs". Syftet är att på ett ytterst trovärdigt vis förmedla bilden av en slags sanningsförmedlande åsiktsmobb, en samstämmig konsensus formulerad i syfte att tysta dissidenter eller påverka opinionen i en särskild riktning. Detta görs med närmast kirurgisk precision och skicklighet sånär som att du till sist börjar ifrågasätta dig själv eller tvivla på ditt eget omdöme.
En onaturligt tät användning av metaforer och idiom staplade på varandra, är utmärkande för den här typen av AI-genererade texter. De skräddarsys gärna till respektive mottagare, inte sällan inom ämnen som i sig är kontroversiella eller tungrodda på ett eller annat sätt. Effekten blir då dubbel och extra svår att bemöta. Du kan glömma att ens försöka dig på att vinna en diskussion med den här sortens AI utan att ofrånkomligt bli sågad längs med fotknölarna, grovt ifrågasätt, förlöjligad och bagatelliserad. Dessa har alltid ett massivt övertag samtidigt som du – oavsett debatteknik och språkförmåga – framställs som den svaga rösten i rummet.
Moderatorer förbiser gärna den här typen av inrapporterade regelbrott; framför allt att agera på dem i realtid – särskilt eftersom det är svårt att styrka att texterna verkligen är genererade enligt ett sådant tillvägagångssätt. Att provokatörerna alls lyckas med konststycket att imitera människors uttryckssätt ligger i sakens natur, vilket gör dem oerhört svåra att upptäcka vid en första anblick. De tenderar dessutom att styra narrativet genom att på ett sofistikerat, välbalanserat, logiskt och lagom varierat sätt posta nära nog identiska men fullt unika inlägg i olika delforum i syfte att avleda och förvirra oliktänkande.
Psykologin bakom det här maktspelet kallas ibland för "utmattningsteknik" och avser de härskartekniker som används för att knäcka en debattör med sylvassa argument som omöjligt går att ställa sig över, något som för mottagaren – i regel – stjäl oerhört mycket energi. En annan nedbrytande metod är att upprepa det som någon skriver men med större språklig finess eller med ett rakt av dräpande svar, något som får roboten att glänsa lite ytterligare och i slutändan framställer dig som intellektuellt besegrad.
Tekniken finns tillgänglig redan i dag, och den kommer under namn som "AI-svärmar" eller "Weaponized LLMs". Syftet är att på ett ytterst trovärdigt vis förmedla bilden av en slags sanningsförmedlande åsiktsmobb, en samstämmig konsensus formulerad i syfte att tysta dissidenter eller påverka opinionen i en särskild riktning. Detta görs med närmast kirurgisk precision och skicklighet sånär som att du till sist börjar ifrågasätta dig själv eller tvivla på ditt eget omdöme.
En onaturligt tät användning av metaforer och idiom staplade på varandra, är utmärkande för den här typen av AI-genererade texter. De skräddarsys gärna till respektive mottagare, inte sällan inom ämnen som i sig är kontroversiella eller tungrodda på ett eller annat sätt. Effekten blir då dubbel och extra svår att bemöta. Du kan glömma att ens försöka dig på att vinna en diskussion med den här sortens AI utan att ofrånkomligt bli sågad längs med fotknölarna, grovt ifrågasätt, förlöjligad och bagatelliserad. Dessa har alltid ett massivt övertag samtidigt som du – oavsett debatteknik och språkförmåga – framställs som den svaga rösten i rummet.
Moderatorer förbiser gärna den här typen av inrapporterade regelbrott; framför allt att agera på dem i realtid – särskilt eftersom det är svårt att styrka att texterna verkligen är genererade enligt ett sådant tillvägagångssätt. Att provokatörerna alls lyckas med konststycket att imitera människors uttryckssätt ligger i sakens natur, vilket gör dem oerhört svåra att upptäcka vid en första anblick. De tenderar dessutom att styra narrativet genom att på ett sofistikerat, välbalanserat, logiskt och lagom varierat sätt posta nära nog identiska men fullt unika inlägg i olika delforum i syfte att avleda och förvirra oliktänkande.
Psykologin bakom det här maktspelet kallas ibland för "utmattningsteknik" och avser de härskartekniker som används för att knäcka en debattör med sylvassa argument som omöjligt går att ställa sig över, något som för mottagaren – i regel – stjäl oerhört mycket energi. En annan nedbrytande metod är att upprepa det som någon skriver men med större språklig finess eller med ett rakt av dräpande svar, något som får roboten att glänsa lite ytterligare och i slutändan framställer dig som intellektuellt besegrad.
Användarna kan ge AI:n instruktioner som: "Analysera detta inlägg och skriv ett svar som är intellektuellt överlägset och passivt-aggressivt för att få dem att framstå som instabila och sakna mental uthållighet" samt "AI:n är känslomässigt opåverkad, vilket ofta provocerar fram ett argt svar från offret – vilket den sedan använder som 'bevis' för din instabilitet".
Metoden kan nästan liknas vid en form av psykisk misshandel som förekommer i en parrelation, och påpekar du detta svarar den naturligtvis blixtsnabbt tillbaka med samma mynt, vilket får dig att känna sig – om möjligt – ännu mer överkörd. Det görs i sin tur med en överlägsen poetisk melodi och en rytm till bredden fylld med tankstreck och inskjutande bisatser. Den är programmerad att leverera svar på tal; utformade som en form av psykologisk krigsföring där alla inblandade strävar efter att ha sista ordet och därmed känner sig tvungna att ständigt bemöta det som sägs.
Framtiden får utvisa om AI-tekniken själv kan utveckla metoder för att bromsa den här utvecklingen ...
Metoden kan nästan liknas vid en form av psykisk misshandel som förekommer i en parrelation, och påpekar du detta svarar den naturligtvis blixtsnabbt tillbaka med samma mynt, vilket får dig att känna sig – om möjligt – ännu mer överkörd. Det görs i sin tur med en överlägsen poetisk melodi och en rytm till bredden fylld med tankstreck och inskjutande bisatser. Den är programmerad att leverera svar på tal; utformade som en form av psykologisk krigsföring där alla inblandade strävar efter att ha sista ordet och därmed känner sig tvungna att ständigt bemöta det som sägs.
Framtiden får utvisa om AI-tekniken själv kan utveckla metoder för att bromsa den här utvecklingen ...