Глава OpenAI Сэм Альтман рассказал о страхе антиутопичного сценария при использовании ИИ

Глава американской компании OpenAI Сэм Альтман поделился своими опасениями относительно прогресса искусственного интеллекта. Об этом он написал на своей странице в соцсети X.

По его словам, существуют два сценария, по которым развитие ИИ может привести к негативным последствиям. Поэтому их необходимо избежать.

Согласно первому сценарию, люди могут потерять контроль над будущим из-за нейросетей. «Мы безоговорочно на стороне человечества, и искусственный интеллект всегда должен служить людям. Чтобы этого добиться, нам нужно сделать так, чтобы методы обеспечения согласованности и безопасности опережали развитие возможностей моделей», — написал он.

Во втором случае глава компании считает, что человечество может оказаться в мире, где власть будет сконцентрирована в одних руках. «Если чрезвычайно мощный искусственный интеллект будет использоваться одним человеком или компанией для навязывания своего мировоззрения всем остальным, последствия могут быть крайне мрачными», — уточнил он.

По его мнению, чтобы избежать этих негативных исходов, необходимо придерживаться середины. Для этого нужно замедлить прогресс развития ИИ самим компаниям.