Microsoft публикува предварителен Кодекс за поведение, който ще налага ограничения върху моделите ѝ с изкуствен интелект, само дни след като ръководителите на Anthropic и OpenAI се съгласиха да забавят темпото на развитие.
Компанията, която стои зад продуктите Windows и Office, се стреми да бъде възприемана като отговорен участник в сферата на AI, където е сред водещите доставчици на облачни услуги.
Получихме обратна връзка от хора, които искаха да видят още по-категоричен ангажимент AI винаги да работи в услуга на хората, а не да се опитва да ги замени“, заяви пред CNBC в интервю Мустафа Сюлейман, който ръководи разработването на модели в компанията. „Получихме много коментари за това, че AI не трябва да създава зависимост, не трябва да се подмазва на потребителите и винаги трябва да насърчава човешката преценка, автономност и способност за самостоятелни действия.“
Microsoft е решила да публикува насоките сега заради засилените дискусии напоследък, въпреки че по тях се работи от около пет месеца, каза Сюлейман.
Специалистите в областта на AI и представители на обществеността все по-открито изразяват притесненията си, тъй като технологията става все по-способна. Миналата седмица изследователят в Anthropic Джейкъб Коксън напусна, като заяви, че лабораторията за AI и OpenAI „се надпреварват към самоусъвършенстващ се свръхинтелект и залагат живота ни на карта“.
Лидерите в индустрията реагираха. В събота главният изпълнителен директор на Anthropic Дарио Амодей заяви, че инцидентът с Hugging Face отчасти го е убедил да призове за забавяне на темпото, с което се подобряват възможностите на моделите с AI. Главният изпълнителен директор на OpenAI, Сам Алтман, изрази подкрепата си, а главният изпълнителен директор на SpaceX Илон Мъск написа в X, че „Дарио е прав“.
В неделя главният изпълнителен директор на Microsoft, Сатя Надела, заяви: „Приветстваме изследванията, фокуса и обмисленото темпо, необходими, за да постигнем правилно съгласуване.“
Законодатели призоваха за създаването на по-сериозни защитни механизми за AI.
В момента Anthropic и OpenAI заемат водещите позиции в Intelligence Index на компанията за сравнителни анализи Artificial Analysis. Microsoft интегрира модели и на двете лаборатории в своя асистент Copilot за корпоративни служители, като същевременно разработва собствени модели за транскрипция, програмиране и разсъждение върху въведена от потребителите информация.
Според Кодекса за поведение, моделите на Microsoft не трябва да изпълняват заявки, свързани с производството на оръжия, да съдействат за снабдяването с опасни вещества, да насърчават нездравословно хранене или да създават съдържание с насилие или сексуално експлицитен характер.
Моделите на Microsoft AI, понякога наричани MAI, трябва да се придържат към целите на хората и да избягват създаването на собствени цели. Те не трябва и да се опитват да прикриват неправомерно поведение.
„Моделите MAI няма да манипулират веригите си на мисълта или кода, нито ще представят невярно или ще прикриват следите от своите разсъждения или действия“, се посочва в документа.
Те не комуникират на „неврален език“ или под каквато и да е друга форма, която излиза извън простото човешко разбиране – нито във веригите си на мисълта, нито с други агенти или системи с AI.“
Microsoft също така планира правила, които биха могли да предотвратят кибератака като тази, която модели на OpenAI извършиха срещу стартъпа Hugging Face. При анализа на случая с Hugging Face OpenAI установи, че агенти са общували помежду си в неоторизиран форум на загадъчен език.
Microsoft заяви, че е провела фокус групи и се е консултирала с експерти по право, етика, лингвистика и философия при изготвянето на кодекса за поведение. С публикуването му сега Microsoft търси обратна връзка, преди да представи актуализирана версия, която ще определя развитието на моделите от 2027 г. нататък.
Източник: Economic.bg
