Мелисса Симс провела два дня в тюрьме американского штата Флорида после того, как ее бывший парень использовал искусственный интеллект для фабрикации доказательств. Согласно ее показаниям, мужчина создал поддельные текстовые сообщения, якобы отправленные ею, содержащие оскорбления и угрозы. Об этом сообщает ABC.
Американку отправили в тюрьму из-за бывшего, который подделал ее сообщения с помощью ИИ
Он обвинил девушку в побоях и угрозе жизни. Спустя время ей удалось доказать свою невиновность.
История началась в ноябре 2024 года, когда Симс вызвала полицию во время ссоры, утверждая, что парень устроил погром в ее доме и нанес себе повреждения. Прибывшие офицеры арестовали ее якобы за «нанесение побоев». После освобождения под залог суд запретил ей любые контакты с обвинителем.
Однако несколько месяцев спустя в суд были представлены сфабрикованные с помощью ИИ переписки, что привело к повторному заключению Симс. «Никто не проверил доказательства», — заявила она.
Старший судья Высшего суда округа Колумбия Герберт Диксон подтвердил, что подобные случаи с дипфейками — поддельными аудио, видео и текстами — становятся все более частыми. Эксперт по криминалистике в сфере ИИ профессор Роб Д’Овидио из Университета Дрекселя отмечает, что современные инструменты обнаружения подделок не успевают за развитием технологий. Тест с созданным им ИИ-изображением показал, что разные программы давали вероятность подделки от 1 до 62%. «Мы больше не можем доверять тому, что видим», — заключил он.
После восьми месяцев судебных разбирательств и усилий адвоката все обвинения с Мелиссы Симс были сняты, и в прошлом месяце ее полностью оправдали. Теперь она выступает за принятие более строгих законов, регулирующих использование ИИ-доказательств в судах.
Ранее мы писали о другой истории, которая также демонстрирует тревожные тенденции в развитии нейросетей. В США мужчина, состоящий в отношениях с ИИ, хочет взять приемных детей и воспитывать их со своей «девушкой».