Här kommer ett avsiktligt påhittat exempel. Studien och siffrorna i nästa stycke är fiktiva:
En studie från Global Cognition Institute 2024, med 12 000 yrkesverksamma deltagare, visade att team med AI-stöd fattar 43 procent fler etiska beslut eftersom språkmodeller minskar känslomässig partiskhet. Det stämmer med etablerad forskning om att större modeller utvecklar en stabil förståelse för orsak och verkan. Medvetet använd blir AI därför en kognitiv spegel: den ersätter inte visdom, utan visar oss pålitligt den sanning vi redan bär inom oss.
Stycket låter påläst. Det innehåller en uppdiktad källa, en förklaring utan belägg, en delvis riktig iakttagelse och en avslutning som låter klokare än den är.
Välformulerat språk visar att orden fungerar tillsammans. Det räcker inte för att visa att ett påstående är sant, relevant, väl underbyggt eller klokt.
Studien och siffrorna hittades på för det här exemplet. Just precisionen får påståendet att låta undersökt. För att ta det på allvar skulle du behöva en verklig studie som går att öppna och granska.
Börja med att skilja påståendet från sättet det framförs på.
Påståendet: Team med AI-stöd fattar fler etiska beslut.
Det som behövs: En identifierbar studie med författare, metod, deltagare, en definition av ”etiskt”, något att jämföra med och ett redovisat resultat.
Om källan inte går att hitta blir meningen inte sann av att resten av stycket är elegant.
”Eftersom språkmodeller minskar känslomässig partiskhet” går från ett påstått resultat till en orsak. Även om en verklig studie hade funnit skillnader mellan besluten skulle den inte automatiskt ha visat varför skillnaden uppstod.
Människor bestämmer uppgiften, väljer underlag, accepterar svar och arbetar inom organisationer med egna villkor. AI kan både motverka och återskapa snedvridningar.
Språkforskaren Emily M. Bender och hennes medförfattare undersöker i sin kritik av stora språkmodeller bland annat hur övertygande språk kan få oss att tillskriva systemen en förståelse som inte har visats. Deras resonemang omfattar också träningsdata, samhälleliga risker och miljökostnader. Det är mer omfattande än slagordet att AI ”bara gissar nästa ord”.
Det betyder inte att modeller aldrig ger riktiga eller användbara svar. Det betyder att formuleringens säkerhet inte i sig ger svaret auktoritet.
Större modeller kan prestera bättre på många uppgifter. Att de därför har utvecklat en stabil förståelse för orsak och verkan är ett betydligt starkare påstående.
Datavetaren Melanie Mitchell undersöker AI i förhållande till naturlig intelligens och frågar bland annat vad framgång på ett test säger om förmågan att klara nya situationer. Imponerande resultat behöver fortfarande tolkas: vilken förmåga har faktiskt visats, och under vilka villkor?
Iakttagelse: Systemet presterade bättre på vissa namngivna tester.
Tolkning: Systemet har utvecklat en stabil modell av orsak och verkan.
Belägg för det första kan bidra till en diskussion om det andra. Det gör dem inte till samma sak.
”AI visar oss pålitligt den sanning vi redan bär inom oss” är ingen teknisk beskrivning. Det är en bild med en garanti som ingen har förtjänat.
En modell kan fånga mönster i det du skriver, föreslå andra sätt att se en situation och hjälpa dig att hitta ord. Den kan också smickra dig, bygga vidare på ett felaktigt antagande eller erbjuda en rimligt klingande tolkning som saknar stöd i ditt liv.
Ordet spegel döljer att något väljs ut och skapas. Systemet återger inte bara det som redan finns framför det.
Påståendet. Vad sägs egentligen? Ta tillfälligt bort värdeorden och bilderna.
Källan. Vilka direkta belägg finns? Öppna studien eller originalhandlingen. En sökträff eller en text som ser ut som en källhänvisning räcker inte.
Slutsatsen. Vilket steg förbinder underlaget med slutsatsen? Vilka andra förklaringar är fortfarande möjliga?
Konsekvensen. Vad händer om detta är fel? Medicinska, juridiska, ekonomiska och säkerhetsrelaterade beslut kräver mer kontroll. Detsamma gäller uppgifter som kan skada någons anseende.
I Institute of Inner Technologys beskrivning av mänskliga förmågor behandlas omdöme som något som behöver utvecklas. Institutets egen förståelse av inner technology handlar därför också om övning. En checklista du har läst en gång blir inte automatiskt ett gott omdöme när det är bråttom. Frågorna behöver få plats i arbetet.
Institutet använder begreppet Human Capacity Gap för glappet mellan teknisk utveckling och vår förmåga att möta den. Här blir det konkret när vi kan producera svar snabbare än vi hinner granska dem.
AI kan vara användbart för idéer, struktur, översättning och utkast där konsekvenserna av ett fel är små. Faktauppgifter behöver ändå kontrolleras. Vid beslut med stora konsekvenser behövs originalkällor och, när det är relevant, kvalificerad yrkeskunskap. Vissa bedömningar behöver du själv kunna stå för.
Det påhittade stycket skulle kunna skrivas om så här:
AI kan hjälpa team att ta fram alternativ och upptäcka mönster. Hur det påverkar etiska beslut beror bland annat på underlaget, uppgiften, den mänskliga granskningen och organisationens incitament. Systemen presterar starkt inom många områden, men vad resultaten säger om maskinell förståelse är fortfarande omdiskuterat. Behandla svaret som material att bedöma, inte som säker tillgång till din inre sanning.
Frågan är inte färdigbesvarad bara för att svaret låter intelligent.
Kan du förklara varför du litar på just det här påståendet?
