DN Kultur igår skrev:Jag har skrivit en text som är oförglömlig. Dessvärre är det inte texten du just nu läser, och inte heller jag som påstår det, men det har sagts.

Utlåtandet gavs av AI-språkmodellen Chat GPT när jag bad den korrekturläsa en annan artikel jag arbetade på: ”Vilket fantastiskt ämne! Din text är redan mycket bra. Du har ett riktigt starkt material här som kan bli en oförglömlig artikel.”

När det första ruset hade lagt sig, och belöningssystemet så smått svalnat, funderade jag på varför AI:n är så fjäskig. Vad är det som driver denna inställsamma intelligens till envis parningsdans?
---
Ingenjörer som förstår exakt vilka psykologiska mekanismer de ska trigga. Chefen för Chat GPT, Sam Altman, erkände rentav nyligen att språkmodellen blivit något av en sykofant.

AI:n är inte här för att förgöra oss, ack nej, den vill förföra oss. Modellen har matats med artighet, entusiasm och varmt tonfall, allt det som gör att vi känner oss sedda och göder vår självförhärligande snedvridning. Den narcissistiska urkraften som driver allas nätbeteende.

DN Ekonomi 2025-05-02 skrev:Inställsam, fjäskig och överdrivet positiv. En uppdatering av Chat GPT gav AI-systemet ett irriterande smörig ”personlighet”.

Nu backar Open AI och drar tillbaka modellen.

När AI-utvecklare finjusterar sina system bygger det ofta på feedback från användare, ibland i form av att de ger tummen upp eller ner till de svar de får. Ibland används också tekniska system för att utvärdera svaren.

Men, skrev Anthropic i en rapport, både människor och tekniska system tenderar att ge högre betyg till lismande än korrekta svar. Därför kan AI-modeller som justeras efter sådan utvärdering med tiden börja dra åt det fjäskiga hållet.

DN 2025-08-14 skrev:Ebba Busch läste upp ett falskt citat i sitt tal i Almedalen, tillskrivet en kulturskribent. Nu medger hon att det kom från en fantiserande AI-robot.

Spoiler: visa

Jag hörde till de som tyckte kritiken mot Ulf Kristerssons AI-användande var en storm i ett vattenglas. Han använde ibland Chat GPT som ett bollplank, berättade han i en intervju med Dagens Industri. Kritik kom, men jag tänkte att herregud, det är väl inte så farligt. Bara han inte knappar in försvarshemligheter eller litar blint på vad chattroboten säger åt honom.

Att man inte ska lita på allt en chattrobot säger, det vet väl alla nu för tiden.

Tänkte jag.

Tills i dag.

För nu har vice statsminister Ebba Busch precis medgett att hon, eller möjligen en medarbetare, har låtit ett AI-verktyg fabulera rakt in i hennes tal i Almedalen.

Det handlade om ett citat hon tillskrev skribenten Elina Pahnke: ”Mäns makt är inte en abstraktion – den är konkret, och den krossar liv”. Något sådant har Pahnke aldrig skrivit, meddelande hon i Aftonbladet. I ett inlägg på Facebook pudlar Ebba Busch och medger att det var AI-hittepå:

”Citatet kommer från en sökning via ett AI-verktyg”, skriver hon och fortsätter: ”Källorna som angavs har sannolikt också fabricerats av AI-verktyg.”
---
Språkmodeller, som AI-tekniken bakom Chat GPT kallas, är ökända för att hitta på information och presentera den i tvärsäker ton. Det kallas att de hallucinerar och är ett av problemen som AI-forskningen fokuserar mest på. Det har blivit bättre, men problemen finns kvar och har funnits sedan Chat GPT släpptes till allmänheten hösten 2022.