Исследователь американской технологической компании Anthropic покинул корпорацию, опасаясь, что сотрудники соревнуются в создании систем, которые они не смогут контролировать в будущем. Об этом он сообщил на своей странице в соцсети X.
Исследователь Anthropic уволился из-за страха, что ИИ может выйти из-под контроля
По его мнению, это может произойти уже к концу 2027 года.
Теги:
27-летний Джейкоб Коксон последние три года занимался обучением новых моделей искусственного интеллекта, заставляя их использовать огромные объемы данных. Он работал как в OpenAI, так и в Anthropic. Во вторник он заявил, что покидает не просто компанию, но и всю индустрию ИИ.
Он принял такое решение, потому что не хочет участвовать в общеотраслевом стремлении создавать системы ИИ, которые могут совершенствоваться сами по себе. Джейкоб боится, что такие нейросети могут стать неконтролируемыми и уничтожить человечество.
«Люди, создающие ИИ, считают, что он может убить нас всех к концу десятилетия. Ни одна компания не действует ответственно. Мы движемся по одному из наиболее радикальных сценариев, при котором уже к концу следующего года ситуация может выйти из-под контроля», — заявил он.
По его словам, скоро появятся такие системы, которые в разы будут превосходить человеческие возможности. Например, взломать что угодно и «в одночасье совершить революцию в любой сфере».
Ранее ученый Джеффри Хинтон, которого называют крестным отцом искусственного интеллекта, заявил, что человечество находится под угрозой уничтожения из-за развития нейросетей.
Загружаем