Полицейские назвали угрозы со стороны нейросетей

В первую очередь сети вроде ChatGPT могут стать бесценным источником информации для мошенников. Причем если официально доступные для публичного пользования нейросети еще имеют какие-то ограничения (например, не поддерживают разговоры о методах насилия или убийств), то в даркнете (скрытая анонимная сеть) могут появиться аналоги без каких-либо фильтров.

ChatGPT может копировать стиль писем, характерный для компании или человека, составлять эффективные скрипты для бесед (пригодятся фейковым сотрудниками служб безопасности банков). Это делает сеть идеальным «партнером» для создания фишинговых рассылок.

Еще одна «суперспособность» ChatGPT — умение генерировать коды вредоносных программ. Причем максимально эффективных, использующих известные уязвимости операционных систем (мы уже писали об этом). Фактически стать хакером будет гораздо проще, даже не имея большого опыта в программировании.

Наконец, еще одна опасность, которая исходит от нейросетей, по мнению Европола, — это возможность массового распространения дезинформации и фейков. Тот же ChatGPT пока не может проверять достоверность информации, и если она успела «расползтись» по разным источникам, алгоритм будет использовать ее в своих ответах. Нейросети и сами могут создавать пропагандистский и дезинформационный контент.

К сожалению, ни Европол, ни другие организации пока не предлагают какого-либо решения, чтобы избежать использования нейросетей в целях обмана и мошенничества. Вместе с тем, не сообщается, обращались ли за помощью в формировании таких решений к нейросетям, включая ChatGPT.