Несколько топ-менеджеров покинули ведущие компании по разработке искусственного интеллекта из-за страха быть причастными к исчезновению человечества. Об этом сообщает Axios.
СМИ: ведущие менеджеры в области ИИ увольняются из-за страха уничтожить человечество
Дело в том, что часть работы нейросети генерируется самостоятельно и непонятно, как она может отреагировать в следующий раз.
VectorFusionArt / Legion-Media
В материале говорится, что вопрос о безграничных возможностях нейросетей все чаще становится предметом обсуждений среди сотрудников Google, Meta (признана экстремистской и запрещена на территории РФ) и OpenAI.
Например, Илон Маск убежден, что риск уничтожения человечества искусственным интеллектом составляет 20%, генеральный директор Google Сундар Пичаи называет такую вероятность «довольно высокой», а руководитель Anthropic Дарио Амодеи говорит о 10–25%.
«Сами создатели ИИ, которые признают, что не знают наверняка, как он на самом деле работает, видят вероятность того, что он уничтожит наш вид, как 1 : 10, может быть, 1 : 5. Вы бы сели в самолет при таких шансах? Вы бы построили самолет и пустили бы других при таких шансах?» — заявили сооснователи Axios Джим Вандехей и Майкл Аллен.
В целом опасения исследователей оправданны. Дело в том, что часть работы искусственного интеллекта генерируется самостоятельно. Так, IT-специалисты в области языковых моделей иногда сами не знают, почему большие системы реагируют на запрос именно так.
Более того, стремление компаний создать улучшенные версии нейросетей может привести к тому, что работа сетей не будет контролироваться специалистами, ведь «виртуальные аспиранты, работающие вместе на сверхсветовой скорости», не захотят подчиняться кому-либо.
К слову, подобные случаи зафиксированы уже в наше время. Ранее специалисты компании Anthropic обнаружили способность нейросети лгать и шантажировать пользователей, чтобы защитить себя от отключения.