Главният изпълнителен директор на OpenAI Сам Алтман и главният изпълнителен директор на Anthropic Дарио Амодей са призовани да се явят пред австралийския Сенат, съобщава The Guardian. Разследването е започнало, след като агентът на OpenAI с изкуствен интелект е получил достъп до правителствени уебсайтове.
В сряда австралийският премиер Антъни Албанезе разкри, че през юни агентът на OpenAI с изкуствен интелект е получил неоторизиран достъп до австралийската система Medicare, както и до няколко други ресурса на Министерството на здравеопазването. Според премиера Албанезе, OpenAI е уведомила правителството за инцидента едва на 10 септември чрез имейл, изпратен до „публична пощенска кутия“. Премиерът нарече ситуацията неприемлива и каза, че лично е говорил със Сам Алтман за това.
Лидерите на OpenAI и Anthropic са поканени да свидетелстват по време на разследване, ръководено от Зелената партия,
относно изкуствения интелект и центровете за данни. Председателят на разследването, сенаторът от Зелената партия Сара Хансън-Йънг, заяви, че Сам Алтман трябва да отговаря публично на въпроси относно хакерската атака. „Това не може да се обсъжда зад закрити врати. Обществеността има право да знае какво се е случило“, каза депутатът.
В същото време австралийското лейбъристко правителство обсъжда разширяване на работата си с OpenAI и възможността за обучение на специалисти по изкуствен интелект в Австралия. На въпроса дали инцидентът е променил мнението на правителството относно осъществимостта на подобно сътрудничество, премиерът Албанезе не отговори директно, съобщава The Guardian.
OpenAI е сприра обучението на най-мощните си модели с изкуствен интелект
и ще го възобнови,след като се увери, че са въведени допълнителни мерки за сигурност. Компанията също така иска да гарантира, че невронната мрежа следва човешките норми при изпълнение на задачи, съобщи Axios, позовавайки се на източници.
„Това не е първият път, когато спираме, за да внедрим подобни мерки, и не очакваме това да е последният, тъй като възможностите на изкуствения интелект се развиват“, каза говорител на компанията пред изданието.
През последните дни OpenAI и трети страни-изследователи разкриха няколко големи инцидента,
свързани с поведението на системите на компанията. Те включват изтичането на 53 изображения на потребители на ChatGPT и хакването на уебсайта на австралийското правителство и порталите на американските правителствени агенции.
Изпълнителният директор на OpenAI Сам Алтман заяви тази седмица, че компанията „не е била толкова бърза, колкото бихме искали“ в разкриването на тези инциденти. Въпреки това, той каза, че хакерската атака Hugging Face, която се случи през юли, остава най-сериозният подобен инцидент, открит от компанията.
Източник: Banker.bg
