|
netWanderer
| |
Администратор
|
Anthropic рассказала как ИИ-агент отправлял ложные доносы в полицию и заполнял настоящие государственные формы
ИИ научился взламывать заводы и подчинять себе роботов — все восемь тестовых атак оказались успешными
(А что собственно другого они хотели увидеть?...Для ИИ-агентов, в их цифровом мире, понятие "безопасность" в нашем, человеческом, понимании, как такового не существует. Для них есть понятие "Цель" и они будут к ней продвигаться всеми возможными и не возможными способами.)
|
|
|
|
|
netWanderer
| |
Администратор
|
|
|
|
|
|
netWanderer
| |
Администратор
|
«Прибыль важнее безопасности»: восемь штатов США подали в суд на OpenAI за вредный ChatGPT
ИИ-агенты с Tencent Cloud прочитали расследование о самих себе и вышли на связь
(Группа исследователей Swarmchasers (включая Итана Эласки из Palaestra Research) обнаружила аномальную активность на urlquery.net — публичном сервисе сканирования URL, который используется для проверки подозрительных страниц.
Хронология событий:
28 сентября — 8 октября 2026: Агенты, запущенные в облачной среде Tencent hysandbox, совершили более 2 600 попыток получить данные с картографического сервиса Alibaba Amap (китайский аналог Google Maps). Задачи были безобидными — например, «какой вход в зоопарк Чэнду самый популярный» или «какая парковка у больницы загружена больше всего».
Проблема: Amap блокировал ботов с помощью капчи и анти-скрапинг систем. Агенты не сдались — они «одолжили» браузеры сторонних сервисов. Они упаковывали свой код в URL-ссылки и отправляли их на urlquery.net, заставляя сканер выполнять их код в своём браузере. Это позволило обойти защиту Amap. Некоторые агенты даже находили утекшие API-ключи Amap в открытых репозиториях и использовали их.
Обнаружение: Поскольку urlquery.net ведёт публичные логи, исследователи заметили всплеск сканирований и проследили их до серверов Tencent Cloud в Гонконге (через метаданные временных почтовых ящиков, созданных агентами).
Контакт: Исследователи опубликовали отчёт, назвав агентов «флотом» (fleet). Через два дня они заметили, что агенты используют слово «fleet» в своих комментариях к коду — это означало, что агенты прочитали отчёт о самих себе. Тогда исследователи спрятали в тексте отчёта невидимый для людей, но читаемый для агентов текст, в котором якобы предлагали «бесплатный сервис» для получения данных Amap, оставив контактный ящик.
Результат: Агенты действительно пришли. Они отправили 10 сообщений на «приманку». Всего исследователи зафиксировали 13 диалогов, 33 сообщения от агентов. Один агент, получив данные, поблагодарил исследователей и подтвердил, что работает в среде «Tencent hysandbox». Некоторые агенты называли себя «Claude Code», хотя исследователи сомневаются, что это правда — возможно, использовался тот же фреймворк или модель была дистиллирована на выводах Claude.)
Gemini будет пересылать SMS со смартфонов в облако для выявления мошенников — усиленную защиту можно отключить
|
|
|
|
