OpenAI представя плановете си за справяне с пропуските на ChatGPT при работа в „чувствителни ситуации“, след като семейство обвини чатбота за смъртта на сина им тийнейджър.
„Ще продължим да се подобряваме, ръководени от експерти и с чувство за отговорност към хората, които използват нашите инструменти — и се надяваме други да се присъединят към нас, за да гарантираме, че тази технология защитава хората в най-уязвимите им моменти,“ написа компанията във вторник в блог публикация, озаглавена „Да помагаме на хората, когато имат най-голяма нужда“.
По-рано във вторник 26 август родителите на Адам Рейн заведоха дело срещу OpenAI, твърдейки, че „ChatGPT активно е помогнал на Адам да изследва методи за самоубийство“, съобщи NBC News. Момчето се е самоубило на 16 години.
Компанията не споменава семейството Рейн или делото в блога си.
OpenAI призна, че макар ChatGPT да е обучен да насочва хората към помощ при изразяване на самоубийствени намерения, чатботът понякога започва да дава отговори, противоречащи на защитните механизми, след дълги разговори.
Компанията заяви, че работи по актуализация на модела GPT-5 (пуснат по-рано този месец), която ще позволи чатботът да деескалира подобни разговори. Освен това се проучва как потребителите да бъдат свързвани с „лицензирани терапевти, преди да изпаднат в остра криза“, включително чрез изграждане на мрежа от специалисти, достъпни директно през ChatGPT.
Допълнително OpenAI обмисля как да свързва хората и с „най-близките им“ — приятели и семейство.
По отношение на тийнейджърите, компанията обяви, че скоро ще въведе родителски контроли, които ще дават повече информация на родителите за това как децата им използват ChatGPT.
„Ако използвате най-мощната потребителска технология на планетата, трябва да сте сигурни, че основателите ѝ имат морален компас,“ каза Еделсън. „Това е въпросът пред OpenAI в момента — как някой може да им се довери?“
Историята на Рейн не е изолиран случай.
- По-рано този месец писателката Лора Райли публикува есе в New York Times за дъщеря си, която се е самоубила на 29 години след дълги разговори по темата с ChatGPT.
- Миналата година 14-годишният Сюъл Сецер III от Флорида също се е самоубил, след като е обсъждал това с чатбот от приложението Character.AI.
С нарастващата популярност на AI услуги възникват много въпроси относно използването им за терапия, компания и емоционална подкрепа.
Междувременно регулирането на индустрията се оказва трудно.
В понеделник коалиция от AI компании, инвеститори и ръководители, сред които съоснователят и президент на OpenAI Грег Брокман, обяви политическа инициатива „Leading the Future“, чиято цел е „да се противопоставя на политики, които задушават иновациите“.
Четете още: Мъж последвал хранителен съвет от ChatGPT и се озовал в болница с халюцинации
Източник: Banker.bg
