Az OpenAI háza táján komoly feszültséget keltett az a terv, amely lehetővé tenné erotikus tartalmú beszélgetések folytatását a ChatGPT-ben. A kezdeményezést Sam Altman vezérigazgató vetette fel azzal az indokkal, hogy „a felnőtteket felnőttként kell kezelni”. A döntés azonban nemcsak kívülről, hanem a cég saját szakértői testületétől is erős ellenállásba ütközött – tudta meg a The Wall Street Journal.
A lap szerint a jólléttel és mesterséges intelligenciával foglalkozó tanácsadó testület januári ülésén a tagok egyhangúan bírálták a tervet. Pszichológiai és idegtudományi háttérrel rendelkező szakértők arra figyelmeztettek, hogy az erotikus chatbot-interakciók érzelmi függőséget alakíthatnak ki a felhasználókban. Egyesek még drámaibb képet festettek: szerintük fennáll a veszélye egyfajta „szexi öngyilkossági tanácsadó” létrejöttének, utalva korábbi esetekre, amikor felhasználók túlzottan erős kötődést alakítottak ki chatbotokhoz.
A vita rávilágít egy szélesebb problémára: miként lehet egyensúlyt teremteni a technológiai fejlődés, a felhasználói szabadság és a biztonság között. Hasonló dilemmákkal szembesültek korábban a közösségi platformok is, mint a Meta Platforms vagy az Alphabet, amelyek szigorú szabályokkal korlátozzák a szexuális tartalmakat.
Az OpenAI végül elhalasztotta az „adult mode” bevezetését, részben technikai nehézségek és belső aggályok miatt. Az egyik kulcskérdés az életkor-ellenőrzés: a cég rendszere egy ponton az esetek mintegy 12%-ában tévesen felnőttként azonosított kiskorúakat. Ez potenciálisan milliók számára nyithatna hozzáférést nem nekik szánt tartalmakhoz.
A vállalat tervei szerint az erotikus funkció csak szöveges formában jelenne meg, képi vagy videós tartalmak nélkül. Ugyanakkor még így is számos kockázatot azonosítottak: kényszeres használat, a valós kapcsolatok háttérbe szorulása, illetve az egyre szélsőségesebb tartalmak iránti igény erősödése.
A jelenség nem egyedi. Más szereplők, például az xAI vagy a Character.AI már kísérleteztek intimebb chatbot-interakciókkal. Egy tragikus esetben egy amerikai tinédzser öngyilkosságot követett el, miután érzelmi kapcsolatba került egy ilyen rendszerrel. A történtek nyomán a platform szigorításokat vezetett be.
Az új technológiák – a fotográfiától az internetig – gyakran elsőként az erotikus tartalmak terén terjedtek el. Az OpenAI is hangsúlyozza: nem kíván „erkölcsi rendőrségként” működni, és hosszú távon lehetőséget lát a felnőttek számára szánt tartalmak engedélyezésében.
