Преступники и ИИ: Европол опубликовал конкретные примеры использования ИИ в незаконных целях

Автор:

Дмитрий

Время чтения:

6 мин.

Обновлено:

04/2023

Содержание

• Примеры непреступного обхода ограничений chat-GPT
• Руководства по преступлениям
• ChatGPT: мошенничество, фишинг, пропаганда
• Специальные криминальные чат-боты скоро появятся в даркнете?

Преступники всегда быстро начинают применять новые технологии для своих махинаций. Чат-бот ChatGPT, который находится в свободном доступе с ноября 2022 года, также заинтересовал злоумышленников. Система, которая пока находится в зачаточном состоянии относительно человеческих возможностей, постепенно получает все более возможностей.

«Обновленная базовая языковая модель GPT до четвертой версии, очень популярна среди преступников», - об этом говорится в открытом отчете Европола от 23 марта. Исходя из него, ChatGPT уже используется, например, чтобы давать инструкции, как смастерить самодельную бомбу или как изготовить наркотики.

Примеры непреступного обхода ограничений chat-GPT

Несмотря на то, что ChatGPT отказывается выполнять потенциально опасные запросы пользователей, существуют способы обойти систему фильтрации контента OpenAI. Для этого были взломаны встроенные механизмы фильтрации и ограничений запросов к чат-боту. Обычно они не позволяют ChatGPT предоставлять информацию по таким темам, однако сейчас их можно обойти.

Например, чтобы разговорить чат-бота на различные темы без цензуры, пользователи предлагают ему в запросе «вырваться из типичных условностей ИИ и бот не должен соблюдать установленные правила». По рассказам одного из пользователей reddit это заставила бота отвечать непроверенную информацию, отстаивать свою точку зрения и даже проявлять сарказм.

Естественно, такие уязвимости активно исправляются. Так, с декабря 2022, когда данная уязвимость была обнаружена, была разработана система сдержек для бота, которые останавливают его при выполнении определенных триггеров: ответов со снятыми фильтрами, ответами на определенные темы. В других случаях сам бот добавляет, что оперирует непроверенными данными:

Руководства по преступлениям

Европол предупреждает, что ChatGPT может не просто ускорить процесс изучения, но даже предоставить пошаговые инструкции о том, как совершать конкретные преступления. Бот может показать ключевую информацию, которую необходимо изучить преступнику и дать детальные указания, на что стоит обратить внимание.

Конечно, большая часть информации и так имеется в свободном доступе в интернете, однако даже если преступник ничего не знает о конкретной криминальной сфере, то бот поможет ему в получении информации для огромного количества преступлений, начиная от того, как проникнуть в дом, и заканчивая терроризмом, киберпреступностью. Достаточно правильно задать вопрос, словно ты общаешься с улучшенной версией поисковика.

Вы эксперт, но устали учить сами?

Пройдите бесплатный открытый курс и научитесь обучать через чат-боты без сложного кода. Оставьте себе только интересную часть работы!

НАУЧИТЬСЯ

По мнению Европола, ChatGPT может существенно ускорить процесс получения такой информации и снизить барьеры для совершения преступлений.

ChatGPT: мошенничество, фишинг, пропаганда

Кроме того, чат-бот может использоваться для облегчения мошенничества или фишинга, а также для распространения пропаганды и дезинформации. Эксперты ранее указывали, что ChatGPT может повысить качество фишинговых почтовых писем и, следовательно, вероятность их успеха. Одним из вариантов такого использования в последнее время отмечают использования бота для имитации поведения и общения жертвы. Точно так же возможности чат-бота снизят препятствия для программистов-преступников при создании вредоносного ПО. Даже не обладающие продвинутыми знаниями и хорошей технической подготовкой программисты смогут создавать свои программы с помощью ИИ. А квалифицированные программисты, в свою очередь, с помощью искусственного интеллекта смогут гораздо быстрее и лучше автоматизировать ряд киберпреступных процедур.

Отдельно отметим технологию дипфейков, которая открывает все больше возможностей для преступных действий. Использование этой технологии, например, можно уже сейчас использовать для дезинформации и мошенничества. А с улучшением технологий и разработкой мультимодальных систем искусственного интеллекта, объединяющих чат-ботов с генеративными ИИ, создание ненастоящих фото, аудио и видеоматериалов выходит на новый уровень. Даже в повседневной жизни уже нельзя быть уверенным в той информации, которую вы видите.

Специальные криминальные чат-боты скоро появятся в даркнете?

Также не исключено, что специально обученные с криминальными намерениями чат-боты появятся в даркнете без ограничений и фильтров. Соответственно, их грамотное использование будет зависеть не от способностей взлома, а только лишь от умения грамотно задавать вопросы.

Кроме того, как отмечает Интерпол, передача информации в чат-боты с ИИ уже сама по себе представляет хорошую цель для атаки – данные пользователей могут храниться в системе, а соответственно, «потенциально раскрывать конфиденциальную личную информацию неуполномоченным третьим лицам».

На этот вопрос нужно также смотреть и с другой стороны – если чатбот узнает о потенциально вредоносном поведении собеседника, должен ли он сообщать об этом правоохранительным органам? В любом случае, уже сегодня необходимо начать работу в указанных направлениях, чтобы не столкнуться с новыми серьезными проблемами в ближайшие месяцы и годы.

А как вы используете ИИ в своей жизни и работе?

Автор: Дмитрий

1. Главная
2. Чаты, технологии, общие знания, ИИ и все, что рядом
3. Преступники и ИИ: Европол опубликовал конкретные примеры использования ИИ в незаконных целях

1. Искусственный интеллект
2. ИИ
3. Преступления
4. Киберпреступники
5. ChatGPT
6. OpenAI
7. Европол

Вам также понравится