Anthropic временно спря достъпа до новия си мощен модел с изкуствен интелект, след като американските власти изразиха опасения за сигурността само дни след публичното му пускане.
В изявление, публикувано на сайта на компанията, Anthropic съобщи, че е получила нареждане да ограничи достъпа на чуждестранни граждани до Claude Fable 5 – система, която самата компания определи като „твърде мощна“.
Практическият ефект от тази заповед е, че трябва незабавно да деактивираме Fable 5 и Mythos 5 за всички наши клиенти, за да гарантираме съответствие с изискванията“, посочва компанията.
Anthropic и администрацията на Доналд Тръмп са въвлечени и в отделно съдебно дело, свързано със заповед за прекратяване на използването на инструментите с изкуствен интелект на компанията от правителствени агенции. BBC е потърсила за коментар Министерството на търговията на САЩ.
Claude Fable 5 е версия на системата Claude Mythos на Anthropic – програма с изкуствен интелект, конкурираща се с ChatGPT на OpenAI и Gemini на Google.
От компанията заявиха, че американските органи по национална сигурност не са посочили конкретни опасения.
Според нашето разбиране, правителството смята, че е открило метод за заобикаляне или т.нар. „джейлбрейк“ на Fable 5“, посочват от Anthropic.
„Джейлбрейк“ е процес на преодоляване на софтуерни ограничения, предназначени да защитават киберсистеми, като позволява на хакери да получат достъп до чувствителна информация или да отключат ограничени функции.
„Прегледахме демонстрация на тази конкретна техника и установихме, че тя е използвана за откриване на малък брой вече известни и незначителни уязвимости“, заявиха от Anthropic.
Всички тези уязвимости изглеждат сравнително елементарни и установихме, че други публично достъпни модели също могат да ги откриват, без да е необходимо заобикаляне на ограниченията.“
Преди пускането на Claude Fable 5 компанията подчертаваше различни „предпазни механизми“, внедрени с цел предотвратяване на кибератаки.
Лидери от финансовия, технологичния и държавния сектор изразиха опасения относно публичното въвеждане на модела след ограничено частно пускане през април, предназначено за предварителни тестове и откриване на уязвимости в системата.
Anthropic обясни, че е предоставила предварителен достъп само на ограничен брой организации, тъй като инструментът е бил достатъчно интелигентен, за да представлява потенциален риск заради способността си да експлоатира или хаква компютърни системи.
Преди официалното пускане на Claude Fable 5 компанията дори заяви, че моделът е „твърде мощен за публикуване“ – твърдение, което някои критици определиха като преувеличен маркетингов ход.
Възможностите на Fable надхвърлят тези на всеки модел, който досега сме предоставяли публично“, заявиха от компанията.
През последните месеци Anthropic се оказа под засилен натиск от администрацията на Доналд Тръмп.
Тръмп публично критикува компанията, а министърът на отбраната на САЩ Пийт Хегсет я определи като „риск за веригата на доставки“ – първият случай, в който американска компания публично получава подобно определение.
Този статут означава, че даден инструмент или услуга не се счита за достатъчно сигурен за използване от правителствени структури и исторически обикновено се прилага спрямо компании, базирани в държави, разглеждани като противници на САЩ.
Anthropic води дело срещу Пентагона във връзка с това определение. Американски съдия постанови, че директивата на Пентагона не може да бъде прилагана на този етап, което означава, че правителствени агенции и организации, работещи с американските въоръжени сили, могат да продължат да използват продуктите на Anthropic, докато съдебният спор продължава.
Източник: Economic.bg
