OpenAI расформировала команду специалистов по защите человечества от угроз, связанных с ИИ

OpenAI распустила команду, специализирующуюся на долгосрочных рисках, связанных с искусственным интеллектом. Об этом сообщает CNBC со ссылкой на источники.

Ранее стало известно, что из компании уволились сразу два ключевых сотрудника, которые работали в этой команде. Это главный научный сотрудник и сооснователь OpenAI Илья Суцкевер, а также руководитель отдела разработки Ян Лейке.

Лейке заявил в X (Twitter), что ушел, потому что разногласия с руководством достигли предела. «Я считал, что OpenAI будет лучшим в мире местом для исследований [ИИ]. Но я довольно долго не соглашался с руководством OpenAI по поводу главных приоритетов компании, пока не наступил переломный момент», — сказал он.

Лейке подал в отставку вскоре после того, как компания представила новую модель ИИ GPT-4o. Благодаря новой версии пользователи смогут взаимодействовать с чат-ботом «больше как с помощником»: нейросеть передает интонации человеческого голоса, умеет ускорять или замедлять темп речи, смеяться и петь. Модель реагирует на аудио в среднем за 320 миллисекунд — это аналогично времени реакции человека в разговоре. Подробнее о GPT-4o читайте здесь.

«Создание машин, которые умнее человека, по своей сути опасное занятие. OpenAI берет на себя огромную ответственность за все человечество. Но за последние годы культура и процессы безопасности отошли на второй план, уступив место ярким продуктам», — заявил Лейке.

По его мнению, OpenAI должна стать компанией, которая в первую очередь гарантирует безопасность, и к ИИ «давно пора отнестись со всей серьезностью», чтобы «гарантировать, что технологии принесут пользу человечеству».

Лейке также опубликовал в соцсетях обращение ко всем сотрудникам OpenAI: «Научитесь чувствовать ИИ. Действуйте с основательностью, которая сопоставима с тем, что вы создаете. Я верю, что вы сможете внедрить необходимые культурные изменения [внутри компании]. Я рассчитываю на вас. Мир рассчитывает на вас».