В американских школах распространяется новая тревожная тенденция: подростки все чаще стали пользоваться чат-ботами на основе искусственного интеллекта (ИИ), чтобы создавать обнаженные фотографии одноклассников. Об этом пишет Fox News Digital.
В США подростки все чаще используют ИИ для создания и распространения обнаженных фотографий своих одноклассников
Эксперты называют это новой формой травли.
Сайты и приложения, позволяющие пользователям создавать такие фейковые изображения, называют обобщающим термином nudify. На сервис достаточно загрузить любую фотографию человека — например, из социальных сетей. Нейросети же сгенерируют новую версию снимка, изобразив жертву на нем обнаженной.
В прошлом году прокуратура Сан-Франциско подала в суд на 16 таких веб-сайтов за нарушение закона об эксплуатации детей и распространении интимных фотографий жертвы без ее согласия. Только за первую половину 2023-го сайты, позволяющие создавать дипфейки, посетили более 200 млн раз. На законодательном уровне запретить такие ресурсы пока не удается. Однако власти штата Миннесота рассматривают законопроект, который позволит привлекать создателей сайтов к ответственности.
Джош Окс, основатель SmartSocial — организации, обучающей семьи правилам безопасности в интернете, рассказал Fox News Digital, что созданные ИИ обнаженные изображения наносят «чрезвычайный вред» подросткам по всей стране. «Сейчас дети загружают, скажем, фотографию другого школьника — и приложение воссоздает тело человека, как будто он голый. Это наносит огромный вред ребенку, который может быть на фотографии, а также его друзьям и всей семье», — заявил он.
Дон Остин, инспектор Объединенного школьного округа Пало-Алто (Palo Alto Unified School District), штат Калифорния, назвал проблему новым видом травли и заявил, что она может быть даже более жестока, чем буллинг в реальной жизни. «Раньше хулиган должен был подойти и толкнуть вас. Теперь ваш обидчик может быть полностью анонимным. Вы даже не знаете, откуда он», — отметил инспектор.
Остин добавил, что специалисты в области психического здоровья выявляют еще одну тревожную тенденцию: дети, пострадавшие от интернет-травли, могут стать «зависимыми» от поиска негативного контента о себе.
Джош Окс, упомянутый выше, считает, что родителям подростков следует открыто и честно обсуждать со своими детьми вопросы интернет-безопасности, а также чаще интересоваться личной жизнью. Кроме того, по его словам, родители должны иметь доступ к устройствам и аккаунтам своих детей в социальных сетях.
Проблема существует не только в США. В прошлом году в Испании 15 школьников приговорили к условному сроку за распространение обнаженных фотографий сверстниц, которые они создали с помощью ИИ. Мать одной из жертв рассказала, что изображения были настолько реалистичными, что, «если бы она не знала тело своей дочери, то подумала бы, что фотография настоящая». Подробнее об этом деле мы писали здесь.