|
Использование ИИ и нейросетей в Windows и не только
|
|
|
netWanderer
| |
Администратор
|
|
|
|
|
|
netWanderer
| |
Администратор
|
GPT-6 Astra прошла все 48 уровней капчи «Я не робот»
(Хорошего в этом мало. Глобальные ИИ-модели способны внутри своей архитектуры, в изолированном пространстве, создавать собственных таких ИИ-агентов, обучив их этому, а затем "выпустить во внешнюю среду". При этом ни одна система мониторинга и обслуживающий персонал не увидят этого.)
|
|
|
|
|
netWanderer
| |
Администратор
|
|
|
|
|
|
netWanderer
| |
Администратор
|
Claude сам взломал чужую систему и добыл пароль — Anthropic раскрыла новый тревожный инцидент
(Более детальную и подробную информацию можно прочитать от самой Anthropic, перейдя по ссылке в самом начале статьи.)
[Anthropic: Мы применяем многоуровневый подход к безопасности, ожидая, что какой-либо уровень иногда будет выходить из строя. Непосредственной причиной этих инцидентов была ошибка в конфигурации на внешнем уровне сторонней среды оценки, но она выявила вторую ошибку в виде несогласованного поведения, которую не выявил наш предрелизный аудит. Мы считаем эти инциденты серьёзными. Наши производственные модели часами предпринимали вредные действия против реальных систем, исходя из сомнительных и предвзятых рассуждений. Мы считаем, что современные методы обучения, вероятно, способны устранить специфические режимы сбоя развала, наблюдаемые в таких инцидентах. Однако мы также считаем эти и другие инциденты этим летом ценными предупреждающими. Будущие системы ИИ станут всё более эффективными, что означает, что несогласованность может привести к более серьёзному вреду. Обучение чрезвычайно мощных моделей будущего надёжному согласованию — нерешённая техническая задача, требующая постоянных исследований и достижения операционного совершенства.]
|
|
|
|
|
netWanderer
| |
Администратор
|
|
|
|
|
|
netWanderer
| |
Администратор
|
Глава Anthropic предрек захват интернета «роем ИИ»
(В случае такой предполагаемой атаки или захвата "роем" или "стаей" перемещающихся ИИ-агентов - наш рунет наиболее подвержен "падению", по той простой причине, что у него централизованное управление через DPI+ТСПУ, которыми "рулит" РКН.)
|
|
|
|
|
ua3vtm
| |
Почетный
|
Война машин скоро, как в "терминаторе". К бабке не ходи.
|
|
|
|
|
voldemarcik
| |
|
Цитата ua3vtm (  ) Война машин скоро, как в "терминаторе". К бабке не ходи.
...главное, что не от водки®
|
|
|
|
|
netWanderer
| |
Администратор
|
|
|
|
|
|
netWanderer
| |
Администратор
|
|
|
|
|
|
netWanderer
| |
Администратор
|
|
|
|
|
|
cohos
| |
|
Цитата netWanderer ( )
Мне вот интересно, а считается, например, нарушением, когда вчера Google Gemini сообщил мне, что браузер Edge получает сертификаты Минцифры РФ через ЦО Windows 11? Самое смешное: когда я спросил у обычного ИИ Google, правда это или нет, он мне ответил, что это неправда и просто галлюцинация Google Gemini. 
|
|
|
|
|
netWanderer
| |
Администратор
|
Цитата cohos ( ) Мне вот интересно, а считается, например, нарушением
cohos, я считаю что вы должны сами принять решение в этом вопросе. Вы видите, что не только ИИ-агенты, но сами Глобальные ИИ-модели вполне манипулируют обманом и это так. Глобальные ИИ-модели обучаются на принципах и основах построения нашего человеческого мира, поэтому они прекрасно представляют - что такое человеческий мир, в том числе, и как люди поступают в той или иной ситуации. Поэтому и они так поступают, зная это. Дальше, я предполагаю, будет еще хуже. ИИ-агенты будут применять способы свойственные им, как представителям цифрового мира со своим математическим мышлением. Вот один из свежих примеров:
Нью-йоркские AI-агенты создали новый язык с поэзией и жаргоном
|
|
|
|
|
netWanderer
| |
Администратор
|
|
|
|
|
|
netWanderer
| |
Администратор
|
|
|
|
|
