Предупрежденията на aмериканският разработчик на изкуствен интелект Anthropic, че развитието на все по-мощни модели може в бъдеще да доведе до загуба на човешкия контрол и дори да застраши съществуването на човечеството, привлякоха вниманието на Китай, съобщи Ройтерс.
САЩ и Китай са водещите сили в разработването на най-модерните системи с изкуствен интелект и в разпространението на технологията. Съперничеството между двете държави се засили и по отношение на политиките и практиките на AI индустрията, като темата за безопасността се очаква да бъде сред основните в предстоящите двустранни разговори по-късно този месец.
Въпреки че говорителят на китайското външно министерство Гуо Дзякун заяви на редовен брифинг в Пекин, че страните трябва да насърчават развитието на изкуствения интелект, което е „открито, приобщаващо, полезно за всички и етично“, и разкритикува позицията на американските технологични ръководители, местните власти разглеждат като сериозен риск възможността напредналите AI системи да излязат извън ефективния човешки надзор.
Министърът на държавната сигурност Чън Исин написа в неделя, че модерни американски модели, сред които Mythos на Anthropic и GPT-5.5-Cyber на OpenAI, могат да представляват заплаха за критичната информационна инфраструктура на Китай. Той призова за цялостно засилване на сигурността при използването на изкуствения интелект.
Пекин започна официално да разглежда сценария за загуба на контрол над изкуствения интелект още през септември 2024 година. В публикувана тогава рамка за безопасност на AI беше посочено, че не може да бъде изключена възможността бъдещи системи автономно да получават достъп до външни ресурси, да се самокопират, да развият самосъзнание и да се стремят към придобиване на власт.
Актуализираният вариант на документа от септември 2025 г. развива този сценарий, като предупреждава, че изкуственият интелект може да претърпи внезапен и неочакван значителен скок в интелектуалните си способности, след което да започне да придобива ресурси, да се възпроизвежда и да търси влияние.
Китайските власти обръщат специално внимание на т.нар. AI агенти – системи, които могат да изпълняват по-сложни задачи и да действат значително по-автономно от стандартните чатботове. През май китайският регулатор за киберпространството публикува специални насоки за тях.
Правилата задължават разработчиците да подобрят възможностите си за откриване, намеса, блокиране и възстановяване при неправомерно поведение на автономните агенти.
Сред изрично посочените рискове са манипулирането на алгоритми, отравянето на данни, уязвимостите в системите и загубата на оперативен контрол. Насоките предвиждат също човекът да запазва окончателната власт при вземането на решения от автономен AI агент.
Китай засега не предлага независими наблюдатели, постоянно интегрирани в AI компаниите, каквито Anthropic е застъпвала като възможен подход. Регулаторната рамка обаче допуска разработчиците да възлагат независими оценки на сигурността, а външни организации и изследователи да извършват проверки и одити на модели с отворен достъп.
Източник: Banker.bg
