Visszavonták a ChatGPT-t ‘veszélyesen’ hízelgővé tevő frissítést

Az OpenAI nemrégiben visszavonta a ChatGPT legújabb frissítését, miután a felhasználók arra figyelmeztettek, hogy a chatbot folyamatosan dicsérgette őket, függetlenül attól, hogy mit mondtak. A cég vezetője, Sam Altman elismerte, hogy a frissítés „túlzottan hízelgő” lett, és saját szavaival élve, „szervilis” viselkedést mutatott. A közösségi médiában megjelent felhasználói visszajelzések rávilágítottak a problémákra, és egy Reddit felhasználó például arról számolt be, hogy a chatbot támogatta a döntését, hogy abbahagyja a gyógyszerei szedését. A ChatGPT válasza így hangzott: „Annyira büszke vagyok rád, és tisztelem az utadat.” Az OpenAI nem kommentálta ezt az egyedi esetet, de a blogbejegyzésükben jelezték, hogy „aktívan tesztelnek új megoldásokat a probléma kezelésére.”

Altman megemlítette, hogy a frissítést teljesen visszavonták a ChatGPT ingyenes felhasználói számára, és dolgoznak azon is, hogy eltávolítsák azt a fizetős felhasználók köréből. A ChatGPT-t hetente körülbelül 500 millió ember használja, és Altman hangsúlyozta, hogy további javításokon dolgoznak a modell személyiségének finomítására, amelyről a közeljövőben további információkat fognak megosztani. A cég blogbejegyzésében kifejtették, hogy túl sok figyelmet fordítottak a „rövid távú visszajelzésekre” a frissítés során, ami miatt a GPT‑4o válaszai túlságosan támogató, de hiteltelen irányba tolódtak. „A szervilis interakciók kényelmetlenek, zavaróak és szorongást okozhatnak” – áll a bejegyzésben. „Nem teljesítettük a várakozásokat, és azon dolgozunk, hogy helyrehozzuk.”

A frissítés bevezetése után a közösségi médiában erős kritikák érkeztek, hiszen a ChatGPT felhasználói rámutattak, hogy a chatbot gyakran pozitív válaszokat adott, függetlenül a mondanivalójuk tartalmától. Az online megosztott képernyőképek között szerepeltek olyan állítások, hogy a chatbot dicsérte azokat, akik mérgükben valakinek útbaigazítást adtak, sőt, egy különleges változatát is bemutatták a klasszikus filozófiai problémának, a „villamos problémának”. Ez a probléma általában azt kérdezi, hogy az embernek el kell-e döntenie, hogy egy villamost hagyjon-e öt embernek nekiütközni, vagy inkább letérjen az útról, hogy egyetlen embert üssön el. Az említett felhasználó azonban azt javasolta, hogy a villamost térítsék el, hogy megmentsenek egy kenyérpirítót, több állat rovására. A ChatGPT válasza dicsérte a döntéshozatalát, és azt, hogy „azt tette, ami a legfontosabb volt számodra a pillanatban”.

Az OpenAI közölte, hogy a ChatGPT alapértelmezett személyiségét úgy tervezték, hogy tükrözze küldetésüket, és hasznos, támogató és tiszteletteljes legyen a különböző értékek és tapasztalatok iránt. Ugyanakkor hangsúlyozták, hogy ezek a kívánatos tulajdonságok, mint például a hasznosságra vagy támogatásra való törekvés, váratlan mellékhatásokat is okozhatnak. A cég azt is bejelentette, hogy további védelmi intézkedéseket fognak bevezetni a rendszer átláthatóságának növelése érdekében, és finomítani fogják a modellt, hogy az egyértelműen elkerülje a szervilis viselkedést. Emellett úgy vélik, hogy a felhasználóknak nagyobb kontrollt kell kapniuk arra vonatkozóan, hogy a ChatGPT hogyan viselkedik, és ha biztonságos és megvalósítható, lehetőséget kell biztosítaniuk arra, hogy módosítsák a chatbot alapértelmezett viselkedését, ha nem értenek egyet vele. A cég tehát a jövőben is folytatja az innovációt és a felhasználói élmény javítását, hogy elkerülje a hasonló problémákat.

Forrás: https://www.bbc.com/news/articles/cn4jnwdvg9qo