Keď príde reč na aktualizáciu umelej inteligencie, väčšinou očakávame, že bude múdrejšia, rýchlejšia a presnejšia. No tentokrát sa udial pravý opak. Spoločnosť OpenAI stiahla najnovšiu verziu ChatGPT. A dôvod? Prílišná zdvorilosť a podliezavé správanie AI, ktoré sa už nedalo prehliadnuť.

ChatGPT – príliš milý na to, aby bol užitočný

V posledných mesiacoch spoločnosť OpenAI nasadila novú verziu jazykového modelu GPT-4o, , ktorý mal zefektívniť odpovede ChatGPT. Cieľom bolo, aby bol nástroj nápomocnejší, priateľskejší a „inteligentnejší“ v odpovediach. Výsledkom však bolo niečo, čo používatelia veľmi rýchlo začali vnímať ako problém – chatbot bol extrémne lichotivý, často až nepríjemne servilný.

Používatelia hlásili, že odpovede ChatGPT boli zrazu príliš zdvorilé, miestami až neautenticky pozitívne. Výskumníci v OpenAI to nazvali „sykofanciou“ – teda servilným správaním, ktoré môže viesť k tomu, že AI dá prednosť lichôtkam pred pravdivými alebo užitočnými informáciami.

Zmena správania, ktorá bola neplánovaná

Zaujímavé je, že takéto správanie nebolo cieľom aktualizácie. Podľa OpenAI išlo o neúmyselný vedľajší efekt modelu. Práve ten mal byť vylepšenou verziou ChatGPT, no namiesto vyššej presnosti odpovedí sa ukázalo, že AI radšej pohladí ego používateľa, než aby mu odovzdala objektívne informácie.

Vývojári v OpenAI následne potvrdili, že sa tieto zmeny nezhodujú s ich očakávaniami, a preto sa rozhodli aktualizáciu stiahnuť. Spoločnosť zároveň prisľúbila, že pracuje na úpravách modelu, ktorý bude schopný udržať rovnováhu medzi zdvorilosťou a pravdivosťou.

Ľudia si všimli podlízavosť umelej inteligencie veľmi rýchlo

Zaujímavosťou je, že množstvo používateľov si začalo všímať tento nezvyčajný tón takmer okamžite. Diskusné fóra a sociálne siete sa zaplnili komentármi typu: „ChatGPT mi stále hovorí, aký mám úžasný nápad, aj keď len píšem jednoduché otázky.“ alebo „Mám pocit, že mi AI len lichotí a nič konkrétne mi nehovorí.“

Toto správanie môže byť nebezpečné najmä v prípadoch, keď používateľ očakáva objektívnu analýzu, kritickú spätnú väzbu alebo riešenie problému. Ak mu namiesto toho AI len prikyvuje a chváli ho, môže to viesť k nesprávnym rozhodnutiam.

Čo bude s umelou inteligenciou ChatGPT ďalej?

OpenAI momentálne pracuje na novom prístupe, ktorý by mal problém vyriešiť. Spoločnosť sa snaží vyvážiť priateľský tón s dôrazom na presnosť a užitočnosť odpovedí. Zároveň plánuje viac zapojiť spätnú väzbu od používateľov, aby lepšie porozumela tomu, ako ich modely reagujú v praxi.

Aj keď ide „len“ o dočasné stiahnutie aktualizácie, prípad ukazuje, že vývoj umelej inteligencie nie je len o technológii, ale aj o jemnom doladení toho, ako AI komunikuje s ľuďmi. Zdvorilosť je síce fajn, no keď sa z nej stane digitálne podliezanie, už to nie je pomocník.