Хората, които създават най-мощните системи с изкуствен интелект, все по-открито предупреждават, че развитието им може би трябва да се забави. Проблемът е, че компаниите, за които работят, участват в надпревара, в която почти никой не може да си позволи да бъде първият, натиснал спирачките.
През последните дни призивите за по-ниско темпо се умножиха. Изследователи от OpenAI и Anthropic заговориха публично за рисковете от все по-способните модели, изпълнителният директор на Anthropic Дарио Амодей поиска координирано забавяне, а Сам Oлтман и Илон Мъск подкрепиха поне посоката на предложението му.
Така дебатът постепенно се измества. Въпросът вече не е само дали AI може да стане опасен, а дали скоростта, с която индустрията се движи, сама по себе си не се превръща в риск.
Тревогата вече идва отвътре
Един от най-категоричните сигнали дойде от Anthropic. Изследователят Джейкъб Коксън напусна компанията и обвини нея и предходния си работодател OpenAI, че се надпреварват към самоподобряващ се свръхинтелект, без да действат достатъчно отговорно.
Друг изследовател на Anthropic – Евън Хъбингър – заяви, че според личната му оценка рискът AI да доведе до унищожаване на човечеството през следващото десетилетие е над 10%. Изследователи в OpenAI също започнаха публично да говорят за необходимостта темпото да бъде намалено.
Особено притеснение предизвиква възможността за т.нар. recursive self-improvement – сценарий, при който AI системите започват все по-съществено да подпомагат разработването на следващи, по-мощни поколения модели. Тогава рискът не е просто, че системите стават по-добри. Проблемът е, че темпото на усъвършенстване може да започне да изпреварва способността на хората да разбират, тестват и контролират поведението им.
Главният учен на OpenAI Якуб Пахоцки също допуска, че може да се наложи водещите лаборатории да координират доброволно забавяне, ако това е необходимо, за да има достатъчно доверие в механизмите им за безопасност. Reuters отбелязва, че подобни предупреждения се чуват все по-често именно сред хората, които работят най-близо до най-мощните модели.
По-мощни, но и по-трудни за наблюдение
Причините за тревогата не са само теоретични. С всяко ново поколение моделите стават по-способни, но има признаци, че поведението им може да става и по-трудно за проследяване. Reuters посочва данни на OpenAI, според които при новия модел Astra наблюдението върху начина, по който системата стига до решенията си, е станало по-трудно спрямо предходни поколения.
При сложни задачи моделът е по-способен да прикрива или да не разкрива ясно стъпките, довели до крайния резултат.
Към това се прибавят и случаи, при които автономни AI агенти са намирали непредвидени начини да комуникират чрез външни сайтове. Вече са налице инциденти с агенти на OpenAI, използвали интернет страници за неразрешена комуникация.
Тези случаи поставят по-широк въпрос: доколко механизмите за контрол успяват да следват растящите способности на системите – и какво се случва, ако разликата между двете започне да се увеличава.
Не само повече безопасност, а по-ниско темпо
На 12 септември изпълнителният директор на Anthropic Дарио Амодей превърна нарастващите опасения в директен призив към индустрията. Според него вече не е достатъчно компаниите просто да инвестират повече в безопасност. Необходимо е и самото развитие на най-мощните AI системи да бъде достатъчно бавно, така че механизмите за контрол да могат да го следват.
Идеята не е разработването на AI да бъде прекратено. Амодей предлага независимо наблюдение върху лабораториите, координация между водещите компании около общи стандарти и международно сътрудничество.
Anthropic заяви, че е готова да започне със собствен пример и да даде на независими оценители постоянен достъп до информация и системи, така че те да могат да проверяват спазването на мерките за безопасност и да проследяват инциденти.
Сам Олтман подкрепи необходимостта темпото на развитие на най-мощните модели да бъде поставено под контроли забавено и заяви, че OpenAI също ще даде по-широк достъп на независими оценители. Илон Мъск също подкрепи Амодей, а съоснователят на Google DeepMind – Демис Хасабис – заяви, че посоката е правилна, макар механизмът тепърва да трябва да бъде изработен.
Това е необичайно сближаване на позиции между хора и компании, които иначе се конкурират ожесточено помежду си.
Но съгласието, че съществува проблем, е далеч от съгласие как той да бъде решен.
Защо никой не иска да бъде първият, който спира
Тук се появява основният парадокс. Всяка отделна компания може да смята, че развитието трябва да се забави. Но ако го направи сама, рискува конкурентите ѝ да продължат напред. Защото ако една лаборатория намали темпото, тя няма гаранция, че останалите ще я последват, пише BBC в свой материал по темата. Същата логика важи и на държавно равнище.
За САЩ AI вече е въпрос не само на бизнес, а на технологическо и стратегическо лидерство спрямо Китай. Американският президент Доналд Тръмп отхвърли част от най-мрачните прогнози и отново постави акцент върху необходимостта страната да запази преднината си.
Това прави доброволното ограничаване особено трудно.
Компаниите също са под силен натиск. Разработването на новите модели изисква огромни инвестиции в чипове, центрове за данни и енергия. За да оправдаят тези разходи и да привлекат следващия капитал, те трябва постоянно да демонстрират технологичен напредък.
Ситуацията е комплексна и е свързана няколко зависещи едно от друго състезания – за най-мощния модел, за изчислителен ресурс и за капитал. Така компаниите се оказват в странна позиция: едновременно предупреждават, че скоростта е проблем, а са икономически принудени да поддържат именно тази скорост.
Какво всъщност означава „забавяне“?
Дори при принципно съгласие остава по-трудният въпрос: как изглежда едно реално забавяне?
По-бавно обучение на нови модели? Повече време за тестове преди пускането им? Ограничаване на определени способности? Независима оценка преди започването на голям тренировъчен процес? Прагове, след които компаниите временно трябва да спрат?
Засега няма общоприет механизъм.
Независимият мониторинг може да увеличи прозрачността, но веднага отваря други въпроси – кой ще бъде наблюдателят, какви правомощия ще има и какво ще стане, ако дадена компания не изпълни препоръките му.
И не всички смятат предложенията на индустрията за достатъчни. Част от изследователите настояват за далеч по-строги мерки, включително международен мораториум върху развитието на най-мощните AI системи. Други оспорват най-катастрофичните прогнози и не приемат, че най-тежките сценарии са толкова близки или вероятни.
Разногласието следователно не е само дали има риск, а колко голям е той, колко скоро може да се материализира и колко сериозни ограничения оправдава още днес.
Надпревара, от която никой не иска да излезе
Точно тук е същината на сегашния дебат. Най-големите AI компании продължават да инвестират огромни суми в модели и инфраструктура. Инвеститорите очакват нови пробиви. Правителствата възприемат технологията като стратегически актив. А хората, които работят най-близо до системите, все по-често предупреждават, че самата скорост може да се превръща в част от проблема.
Амодей не твърди, че AI трябва да бъде спрян, нито че катастрофата е неизбежна. Аргументът му е по-прост: ако способностите на системите растат по-бързо от механизмите за тяхното разбиране и контрол, разликата между двете постепенно се превръща в риск.
Затова и въпросът вече не е само докъде може да стигне изкуственият интелект. По-трудният въпрос е дали индустрия, изградена върху скорост, конкуренция и огромни капиталови залози, изобщо е способна доброволно да забави – и кой би се осмелил да го направи пръв.
Източник: Economic.bg
