Искусственный интеллект не будет убивать людей: названа новая главная угроза

Главная угроза, исходящая от искусственного интеллекта – это не технологический апокалипсис в будущем. Такие идеи служат лишь, чтобы отвлечь от непосредственных рисков, которые исходят от ИИ – например, распространение фейков.

Видео дня

К такому выводу пришел разработчик Эйдан Гомес, автор исследования лежала в основе технологии, на которой основаны чат-боты. Как пишет The Guardian, Гомес не отрицает, что долгосрочные риски следует изучать и готовиться к ним, но призывает сосредоточиться на непосредственном влиянии ИИ на человечество сейчас.

Такие угрозы он считает более актуальными и потому намного ощутимее. Особенного внимания заслуживают чат-боты (в частности, ChatGPT) и ИИ-генераторы изображений (например Midjourney).

"Такая технология уже используется во многих пользовательских продуктах, в частности Google и других. Это создает множество новых рисков, но ни один из них не является экзистенциальным и не включает сценарий конца света. Нашего непосредственного внимания заслуживают разработки, которые уже влияют на людей или начнут влиять в обозримом будущем, а не академические и теоретические рассуждения о долгосрочном будущем", – подчеркнул Эйдан Гомес.

Наибольшим образом его беспокоит обилие фейковой информации, которая распространяется в интернете.

"Эти модели искусственного интеллекта могут создавать чрезвычайно убедительные медиафайлы – эти тексты и изображения практически неотличимы от созданных человеком. И это то, чем нам необходимо заняться в срочном порядке. Нам нужно выяснить, как научить общественность различать эти медиаданные", – добавил разработчик.

Особенное место в распространении такой информации занимают боты. Их Гомес называет "реальной угрозой демократии и общественной дискуссии".

Как уже писал OBOZ.UA, около 350 руководителей и исследователей компаний из ИИ-отрасли подписали открытое письмо об угрозе искусственного интеллекта. Масштабы этой опасности они сравнили с пандемиями и ядерными войнами.

Только проверенная информация у нас в Telegram-канале OBOZ.UA и в Viber. Не ведитесь на фейки!