Годината е 2027. Могъщи системи с изкуствен интелект надминават човешкия разум и предизвикват хаос в световния ред. Китайски шпиони са откраднали тайните на американски разработки в областта на изкуствения интелект и Белият дом предприема бързи ответни мерки. В една от водещите лаборатории за изкуствен интелект инженерите с ужас откриват, че техните модели започват да ги лъжат, което увеличава риска от тяхното превръщане в измамници.
Описаните по-горе сцени не са част от научнофантастичен филм, пише The New York Times в статия по темата. Те са сценарии, предвидени от базирана в Бъркли, Калифорния, организация с нестопанска цел, наречена „Проект за бъдещето на изкуствения интелект“. През изминалата година организацията е работила по прогнозирането на бъдещето в следващите няколко години, когато се очаква да бъдат разработвани все по-мощни системи с изкуствен интелект.
Ръководител на проекта е Даниел Кокотайло, бивш изследовател в OpenAI, който напуска компанията миналата година поради опасения относно нейната безотговорна дейност.
По време на работата си в OpenAI, където е част от екипа за управление, Кокотайло изготвя подробни вътрешни доклади за възможните сценарии в надпреварата за постигане на изкуствен общ интелект (AGI) – неясно дефиниран термин за машинен интелект на човешко ниво. След напускането си той започва да си партнира с Илай Лифланд, изследовател в областта на AI с доказан опит в точното прогнозиране на световни събития. Двамата започват съвместна работа, с която имат за цел да предвидят следващата вълна в развитието на изкуствения интелект.
Резултатът е „AI 2027“ – доклад и уебсайт, публикувани тази седмица, които в детайлен фиктивен сценарий описват какво би могло да се случи, ако системите с изкуствен интелект надминат човешкия интелект – събитие, което авторите очакват да се случи в следващите две-три години.
Предвиждаме, че системите с изкуствен интелект ще продължат да се усъвършенстват до степен, в която ще се превърнат в напълно автономни агенти, превъзхождащи хората във всяко отношение, до края на 2027 г. или приблизително тогава“, заяви Кокотайло в скорошно интервю.
В наши дни не липсват спекулации относно изкуствения интелект. Сан Франциско е обхванат от ентусиазъм, а технологичната сцена в района на залива се е превърнала в сборище на враждуващи групи и фракции, всяка от които е убедена, че знае как ще се развие бъдещето.
Някои прогнози за изкуствения интелект приемат формата на манифести, като например есето от 14 000 думи „Машини на любящата милост“, написано миналата година от Дарио Амодей, главен изпълнителен директор на Anthropic, или докладът „Ситуационна осведоменост“ на бившия изследовател на OpenAI Леополд Ашенбренър, който получи широка популярност в политическите среди.
Екипът на „A.I. Futures“ разработва своя подход като прогнозен сценарий – по същество строго проучена научна фантастика, която използва най-добрите им предположения за бъдещето като основни сюжетни точки. Групата прекарва почти година в изготвянето на стотици прогнози за изкуствения интелект. Впоследствие те привличат писателя Скот Александър, автор на блога Astral Codex Ten, за да им помогне да превърнат прогнозите си в увлекателен разказ.
Взехме това, което смятахме, че ще се случи, и се опитахме да го направим завладяващо“, казва г-н Лифланд.
Критиците на този подход биха могли да твърдят, че измислените истории за изкуствен интелект са по-ефективни в плашенето на хората, отколкото в тяхното образоване. А някои AI експерти несъмнено ще оспорят основното твърдение на групата, че изкуственият интелект ще надмине човешкия.
Али Фархади, главен изпълнителен директор на Института „Алън“ за изкуствен интелект, прегледа доклада „AI 2027“ и заяви, че не е впечатлен.
Аз съм привърженик на прогнозите и предвижданията, но тази конкретна прогноза не изглежда да се основава на научни доказателства или на реалното развитие на нещата в областта на изкуствения интелект“, каза той.
Няма съмнение, че някои от възгледите на групата са крайни. И Кокотайло, и Лифланд са свързани с движението „Ефективен алтруизъм“ – друго философско течение, популярно сред работещите в технологичния сектор, което от години отправя сериозни предупреждения за изкуствения интелект.
Но също така си струва да се отбележи, че някои от най-големите компании в Силициевата долина планират свят отвъд AGI и че много от смелите прогнози, правени за изкуствения интелект в миналото – като например мнението, че машините ще преминат теста на Тюринг, мисловен експеримент, определящ дали една машина може да комуникира като човек – се сбъднаха.
През 2021 г., годината преди стартирането на ChatGPT, Кокотайло публикува блог пост, озаглавен „Как изглежда 2026 г.“, в който изложи визията си за развитието на системите с изкуствен интелект. Редица от неговите прогнози се оказаха далновидни, което му даде основание, че този вид прогнозиране е ценно и че той е добър в него.
Това е елегантен и удобен начин да предадеш мнението си на други хора“, казва той.
Миналата седмица Кокотайло и Лифланд ме поканиха в офиса си – малка стая в споделено работно пространство в Бъркли, наречено Constellation, където редица организации за безопасност на изкуствения интелект имат свои офиси – за да ми покажат как работят.
Източник: Economic.bg
