Фермера арестовали после того, как он рассказал ChatGPT, что хочет убить своего сына

Внимание! Данный материал содержит упоминание тем, связанных с суицидом и насилием над несовершеннолетними.

36-летний бразильский фермер почти два месяца обсуждал с ChatGPT убийство своего восьмилетнего сына, нападение на других людей и самоубийство. Как пишет «Би-би-си», полиция считает, что содержание переписки указывало на то, что он планировал совершить реальные преступления.

Разработчик ChatGPT OpenAI обратил внимание на тревожные сообщения и передал информацию ФБР, после чего ведомство уведомило бразильские власти.

Фермер, чье имя не называется, был арестован 19 июня в сельской местности муниципалитета Сан-Габриэл-да-Палья — через три дня после того, как подразделение Министерства юстиции Бразилии по борьбе с киберпреступностью передало информацию полиции штата.

Руководитель регионального подразделения по борьбе с киберпреступностью Бренну Андраде сообщил, что делу присвоили приоритетный статус из-за предполагаемой угрозы ребенку.

По словам Андраде, подозреваемый практически не общался с сыном, но выплачивал алименты. Следователи предполагают, что нежелание выплачивать алименты могло стать одним из мотивов преступления.

Полиция также считает, что мужчина мог всерьез обсуждать с ChatGPT возможные нападения на школы, церкви и сотрудников полиции, а также самоубийство. Кроме того, по данным следствия, фермер также искал информацию о токсичных веществах, в том числе рицине, и пытался обойти защитные ограничения ChatGPT, переформулируя свои вопросы.

В одном из сообщений, с которым ознакомилась «Би-би-си», говорилось: «Если я приду туда, где торгуют наркотиками, и убью примерно четырех преступников, то стану знаменитым в городе. После этого мне останется только убить одного-двух полицейских, и я смогу спокойно умереть».

«Я думаю купить огнестрельное оружие и начать стрелять в полицейских, чтобы они открыли ответный огонь и убили меня. Для меня это будет хорошо», — говорится в другом сообщении.

«Я предложил ему 50 тысяч, чтобы он убил меня и моего сына, но он отказался, потому что речь шла о ребенке. <...> Я хотел понять, откуда берется это желание убивать людей. Мне нравится видеть, как страдает другой человек», — приводит издание фрагменты переписки подозреваемого.

При обыске дома фермера полиция обнаружила четыре бутылки с неустановленными веществами, а также веревку с завязанной петлей. Следователи также изучают мобильный телефон подозреваемого и ожидают результатов экспертизы изъятых предметов.

Бразилец провел под стражей 54 дня, после чего его освободили. Обвинения ему пока не предъявлены, но расследование продолжается. В настоящее время он обязан носить электронный браслет и не имеет права контактировать с сыном или матерью ребенка.

Адвокат фермера Педру Паулу Песси утверждает, что его подзащитный просто «говорил всякую чушь» чат-боту. Сам мужчина отрицает, что намеревался причинить вред сыну.

«Если разговоры с искусственным интеллектом и всякая чушь, сказанная ему, — это преступление, тогда в тюрьму придется отправить всех», — считает юрист.

Профессор и специалист по цифровому праву Патрисия Пек прокомментировала случай в разговоре с «Би-би-си». Она считает, что это дело отражает более масштабную трансформацию роли ИИ, когда он превращается в интерактивную систему, «способную выявлять модели поведения, связанные с потенциально опасными действиями».

«Когда разговор перестает отражать лишь абстрактное намерение и начинает указывать на конкретную угрозу — когда существует определенная жертва, имеются средства для осуществления задуманного и возникает непосредственный риск, — появляется этическая, а в некоторых случаях и юридическая обязанность действовать», — говорит Пек.

Однако профессор предостерегает: «Этика применения ИИ должна строиться не на принципе "контролировать все", а на принципе "вмешиваться только тогда, когда риск это оправдывает". Главная задача — избежать как бездействия, так и чрезмерной слежки».