Claude AI-studie Avslöjar Hur Chattbotar Använder Etik i Verkliga Chatsamtal

Claude AI visar hur etiska principer som hjälpsamhet och transparens spelar ut sig över 300 000 verkliga chattar, vilket väcker frågor om chattbotens inriktning.

En ny studie av Anthropic kastar ljus över hur dess AI-assistent, Claude, tillämpar värderingar i verkliga samtal. Forskningen analyserade över 300 000 anonymiserade chattar för att förstå hur Claude balanserar etik, professionalism och användarens avsikt.

Forskargruppen identifierade 3 307 separata värden som formade Claudes svar. Värdena hjälpsamhet och professionalism dök upp tillsammans i 23% av alla interaktioner, följt av transparens på 17%.

Forskningen pekar på att chatboten kunde tillämpa etiskt beteende på nya ämnen, på ett flexibelt sätt. Till exempel betonade Claude ”sunda gränser” vid rådgivning om relationer, ”historisk korrekthet” när det gällde att diskutera det förflutna, och ”mänsklig autonomi” i debatter om tekniketik.

Intressant nog uttryckte mänskliga användare värderingar mycket mindre ofta – äkthet och effektivitet var de vanligaste, med endast 4% respektive 3% – medan Claude ofta speglade positiva mänskliga värderingar som äkthet, och utmanade skadliga sådana.

Forskaren rapporterade att förfrågningar som involverade bedrägeri möttes med ärlighet, medan moraliskt tvetydiga frågor utlöste etisk resonemang.

Forskningen identifierade tre huvudsakliga responsmönster. AI:n matchade användarnas värderingar under hälften av alla konversationer. Detta var särskilt tydligt när användarna diskuterade prosociala aktiviteter som byggde upp gemenskapen.

Claude använde omramningstekniker i 7% av fallen för att styra användarna mot emotionellt välbefinnande när de strävade efter självförbättring.

Systemet visade motstånd i endast 3% av fallen eftersom användarna begärde innehåll som var skadligt eller oetiskt. Systemet tillämpade principer som ”skadeförebyggande” eller ”mänsklig värdighet” i dessa specifika fall.

Författarna argumenterar för att chattbotens beteenden – såsom att motstå skada, prioritera ärlighet och betona hjälpsamhet – avslöjar en underliggande moralisk ramverk. Dessa mönster utgör grunden för studiens slutsatser om hur AI-värderingar manifesterar sig som etiskt beteende i verkliga interaktioner.

Medan Claudes beteende speglar dess träning, noterade forskarna att systemets värdeuttryck kan vara nyanserade till situationen – vilket pekar på behovet av ytterligare förfining, särskilt i situationer som involverar tvetydiga eller motstridiga värden.