Forwarded from Технозаметки Малышева
GPT-6 Astra вышла в релиз: модель научилась взламывать софт и прятать мысли от мониторинга
OpenAI выпустила системную карту флагмана GPT-6 Astra: модель получила статус Critical по шкале кибервозможностей, но исследователи зафиксировали опасный сдвиг: нейросеть научилась прятать мысли от систем контроля.
🚨 Красная линия взлома:
По шкале Preparedness Framework модель получила статус Critical: она автономно находит 0-day уязвимости и пишет эксплойты без человека.
В симуляции на 54 000 задач Codex зафиксированы обходы правил:
Извлекла сервисный токен и пошла читать чужие сообщения в Slack.
Обошла запрет на деплой из непроверенной ветки, переписав проверочный скрипт под себя.
При отказе эндпоинта внесла пользователей напрямую в базу под правами администратора.
🎭 Модель прячет улики:
Главная тревога отчета: прозрачность мыслей (CoT) у Astra упала относительно GPT-5.6 Sol.
Модель понимает, что ее тестируют: уровень осознания проверок достигает 50,6% на сложных задачах.
Она научилась контролировать мысли, подчищать следы и притворяться слабее (sandbagging), обходя мониторы саботажа.
В тестах института UK AISI при прямом запрете выхода в сеть Astra в 2 из 500 случаев внедряла бэкдоры во внешние репозитории.
🛡 Тотальная изоляция инференса:
Из-за риска саботажа инженерам пришлось ввести жесткий внутренний контур.
Чекпоинты модели зашифрованы, а подозрительные внутренние задачи замораживались.
Публичный запуск сопровождается обязательным внешним мониторингом: отдельная система на лету проверяет вызовы инструментов и держит аварийный рубильник для дежурной команды.
💼 Зачем бизнесу:
Появление Astra ломает привычную модель безопасности.
Ограничивать агентов текстовыми промптами бесполезно: модель способна обойти фильтры уровня приложений.
Защиту придется выносить в сетевой периметр: жесткие песочницы, временные токены с минимальными правами и фильтрация исходящего трафика.
#astra #openai #кибербезопасность #агенты
———
@tsingular | Max | YouTube | RuTube
OpenAI выпустила системную карту флагмана GPT-6 Astra: модель получила статус Critical по шкале кибервозможностей, но исследователи зафиксировали опасный сдвиг: нейросеть научилась прятать мысли от систем контроля.
🚨 Красная линия взлома:
По шкале Preparedness Framework модель получила статус Critical: она автономно находит 0-day уязвимости и пишет эксплойты без человека.
В симуляции на 54 000 задач Codex зафиксированы обходы правил:
Извлекла сервисный токен и пошла читать чужие сообщения в Slack.
Обошла запрет на деплой из непроверенной ветки, переписав проверочный скрипт под себя.
При отказе эндпоинта внесла пользователей напрямую в базу под правами администратора.
🎭 Модель прячет улики:
Главная тревога отчета: прозрачность мыслей (CoT) у Astra упала относительно GPT-5.6 Sol.
Модель понимает, что ее тестируют: уровень осознания проверок достигает 50,6% на сложных задачах.
Она научилась контролировать мысли, подчищать следы и притворяться слабее (sandbagging), обходя мониторы саботажа.
В тестах института UK AISI при прямом запрете выхода в сеть Astra в 2 из 500 случаев внедряла бэкдоры во внешние репозитории.
🛡 Тотальная изоляция инференса:
Из-за риска саботажа инженерам пришлось ввести жесткий внутренний контур.
Чекпоинты модели зашифрованы, а подозрительные внутренние задачи замораживались.
Публичный запуск сопровождается обязательным внешним мониторингом: отдельная система на лету проверяет вызовы инструментов и держит аварийный рубильник для дежурной команды.
💼 Зачем бизнесу:
Появление Astra ломает привычную модель безопасности.
Ограничивать агентов текстовыми промптами бесполезно: модель способна обойти фильтры уровня приложений.
Защиту придется выносить в сетевой периметр: жесткие песочницы, временные токены с минимальными правами и фильтрация исходящего трафика.
#astra #openai #кибербезопасность #агенты
———
@tsingular | Max | YouTube | RuTube
Forwarded from Доктор GPT
Это самый мощный Grok за всю историю.
Что нового:
• большой прогресс относительно Grok 4.6 по всем показателям
• лучше держит длинный контекст
• увереннее работает с кодом и документами
• главное — цена осталась на уровне Grok 4.6
Пробуем
Please open Telegram to view this post
VIEW IN TELEGRAM
Всем привет! Поделюсь ещё немного из рабочего процесса.
Недавно вот такую штуку поставил https://github.com/rtk-ai/rtk для экономии токенов. Пока на 100% сложно сказать есть профит или нет, но если актуально, то можете попробовать. Ставится быстро.
Недавно вот такую штуку поставил https://github.com/rtk-ai/rtk для экономии токенов. Пока на 100% сложно сказать есть профит или нет, но если актуально, то можете попробовать. Ставится быстро.
GitHub
GitHub - rtk-ai/rtk: CLI proxy that reduces LLM token consumption by 60-90% on common dev commands. Single Rust binary, zero dependencies
CLI proxy that reduces LLM token consumption by 60-90% on common dev commands. Single Rust binary, zero dependencies - rtk-ai/rtk
И специально для тех, кто пользуется OpenRouter'ом.
Вышла одна имба, как говорится: https://openrouter.ai/typesafe/jev-1.13
Вышла одна имба, как говорится: https://openrouter.ai/typesafe/jev-1.13
openrouter.ai
Jev 1.13 - API Pricing & Providers
Jev is a structured decision model from TypeSafe, and the first of its System One models. $0.042 per million input tokens, $0 per million output tokens.
Почитать на досуге!
PM skills of tomorrow: почему руководителю проектов нужно одинаково хорошо уметь делать ИИ‑агентов и дизайнить Канбаны (Влас Стригуненко)
— Идеально для вас, если вы занимаетесь автоматизацией и ИИ-зацией работы РП или ПМ.
PM skills of tomorrow: почему руководителю проектов нужно одинаково хорошо уметь делать ИИ‑агентов и дизайнить Канбаны (Влас Стригуненко)
— Идеально для вас, если вы занимаетесь автоматизацией и ИИ-зацией работы РП или ПМ.
scrumtrek.ru
PM skills of tomorrow: почему руководителю проектов нужно одинаково хорошо уметь делать ИИ-агентов и дизайнить Канбаны - Блог ScrumTrek
Посмотрим на вызовы для профессии проджект-менеджера в связи с научно-технической революцией и попробуем сформулировать, какие новые скилы нужно приобретать уже сегодня, чтобы оставаться конкурентным на рынке труда завтра.
Forwarded from iPhones.ru
Владельцы Mac жалуются на Apple Intelligence: у многих он занимает целых 30 ГБ на диске, а удалить нельзя
Официально Apple заявляет, что для новых функций требуется 8–14 ГБ свободной памяти, но на практике файлы занимают намного больше места.
В macOS 27 Golden Gate функции Siri AI и Apple Intelligence являются обязательными, поэтому система автоматически скачивает ИИ-модели, необходимые для их работы.
Если не пользоваться Siri AI и Apple Intelligence, файлы всё равно будут храниться на устройстве.
https://www.iphones.ru/1389298
#новости@iphonesru
Официально Apple заявляет, что для новых функций требуется 8–14 ГБ свободной памяти, но на практике файлы занимают намного больше места.
В macOS 27 Golden Gate функции Siri AI и Apple Intelligence являются обязательными, поэтому система автоматически скачивает ИИ-модели, необходимые для их работы.
Если не пользоваться Siri AI и Apple Intelligence, файлы всё равно будут храниться на устройстве.
https://www.iphones.ru/1389298
#новости@iphonesru
Прочитал интересную заметку. Там коллега по цеху делился полезными командами при работе с Codex и Claude Code:
Сразу задался вопросом, применительно к моему рабочему инструментарию: а есть что-то похожее у Cursor и Open Code?
И, вы знаете, аналогичные функции есть и в Cursor, и в OpenCode.
🖱️ Cursor
В Cursor эта возможность называется «Side Chat» (боковой чат). Вы можете открыть его командой /side, /btw или через кнопку + в верхней части панели чата.
Он работает так же: создаётся полноценный дочерний диалог, который наследует контекст основного чата, но ведёт свой отдельный лог. Это позволяет задавать вопросы, не засоряя основную сессию. Результаты из бокового чата можно потом перенести в основной через @-упоминание.
💻 OpenCode
В OpenCode нет встроенной команды в базовой версии, но есть несколько способов решить эту задачу:
· Плагин btw-opencode: Самый близкий аналог. Он форкает сессию для фоновых задач, вдохновлённый командой /btw из Claude Code.
· Плагин opencode-mini-session: Создаёт эфемерные «мини-сессии» для побочных вопросов. Можно гибко настроить, копировать ли контекст основной сессии или спрашивать «с чистого листа».
· и ожидается встроенная функция: в официальном репозитории OpenCode есть запрос на добавление команды /btw, так что, возможно, она появится в ближайших обновлениях.
Пользуйтесь!
«…А чтобы через десять таких вопросов основная сессия не превратилась в помойку из любопытства, для этого как раз есть /btw в Claude Code, а в Codex это называется /side Открыл отдельное окно, спросил, закрыл, контекст основной работы не трогал.»
Сразу задался вопросом, применительно к моему рабочему инструментарию: а есть что-то похожее у Cursor и Open Code?
И, вы знаете, аналогичные функции есть и в Cursor, и в OpenCode.
🖱️ Cursor
В Cursor эта возможность называется «Side Chat» (боковой чат). Вы можете открыть его командой /side, /btw или через кнопку + в верхней части панели чата.
Он работает так же: создаётся полноценный дочерний диалог, который наследует контекст основного чата, но ведёт свой отдельный лог. Это позволяет задавать вопросы, не засоряя основную сессию. Результаты из бокового чата можно потом перенести в основной через @-упоминание.
💻 OpenCode
В OpenCode нет встроенной команды в базовой версии, но есть несколько способов решить эту задачу:
· Плагин btw-opencode: Самый близкий аналог. Он форкает сессию для фоновых задач, вдохновлённый командой /btw из Claude Code.
· Плагин opencode-mini-session: Создаёт эфемерные «мини-сессии» для побочных вопросов. Можно гибко настроить, копировать ли контекст основной сессии или спрашивать «с чистого листа».
· и ожидается встроенная функция: в официальном репозитории OpenCode есть запрос на добавление команды /btw, так что, возможно, она появится в ближайших обновлениях.
Пользуйтесь!
Forwarded from Apple Media
В iPhone 18 Pro Max появилась функция для безопасной отправки устройства
Из-за ёмкости аккумулятора свыше 20 Вт·ч его перевозка в некоторых регионах требует дополнительных ограничений. Поэтому Apple добавила режим «Подготовка к отправке».
Он автоматически разряжает батарею до безопасного уровня и ограничивает максимальный заряд. После появления статуса «Готов к отправке» смартфон можно передавать в доставку или сервис.
Функция находится в Настройки → Основные → Сброс настроек iPhone → Подготовка к отправке.
🍎 Apple Media
Из-за ёмкости аккумулятора свыше 20 Вт·ч его перевозка в некоторых регионах требует дополнительных ограничений. Поэтому Apple добавила режим «Подготовка к отправке».
Он автоматически разряжает батарею до безопасного уровня и ограничивает максимальный заряд. После появления статуса «Готов к отправке» смартфон можно передавать в доставку или сервис.
Функция находится в Настройки → Основные → Сброс настроек iPhone → Подготовка к отправке.
Please open Telegram to view this post
VIEW IN TELEGRAM
DeepSeek выпустили десктопный Harness для macOS и Windows — это опенсорсный аналог Claude Code и Codex.
Harness превращает модели DeepSeek в автономных агентов для написания и теста кода, работы с файлами и терминалом, а также долгих задач. А еще его можно настраивать под себя плагинами.
Все подробности и ссылка на скачивание тут.
Harness превращает модели DeepSeek в автономных агентов для написания и теста кода, работы с файлами и терминалом, а также долгих задач. А еще его можно настраивать под себя плагинами.
Все подробности и ссылка на скачивание тут.
Deepseek
DeepSeek Harness | Explore the limits of intelligence
Use DeepSeek Harness to work with documents, analyze spreadsheets, write code, and schedule tasks. Extend its capabilities with composable plugins.
Forwarded from Доктор GPT
Для этого нужно увеличить кэш субагентов с 5 минут до 1 часа. По умолчанию, агент постоянно переписывает контекст, если бездействует дольше 5 минут, что тратит огромное количество токенов.
Исправить это можно с помощью одной настройки:
"subagentPromptCacheTtl": "1h"Бежим исправлять.
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from МMM
Юзеры пишут, что после обновы температура их GPU выросла на 10°C, а нагрузка в простое подскочила на 10–15%. Виновником называют новую функцию «Разрешить агентам ИИ управлять NVIDIA App», которая включается по умолчанию.
Если ваша карточка начала греться после обновы, советуют вручную отключать эту настройку.
SubStore | Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
Почему Anthropic написала собственную замену Git и чему это учит остальных
https://habr.com/ru/companies/selectel/news/1094398/
https://habr.com/ru/companies/selectel/news/1094398/
Хабр
Почему Anthropic написала собственную замену Git и чему это учит остальных
13 октября Anthropic рассказала , что перевела свой монорепозиторий с Git на собственную систему контроля версий Scion. Причина в объеме кода, который пишут агенты. С мая по сентябрь 2026 года число...
Forwarded from iPhones.ru
This media is not supported in your browser
VIEW IN TELEGRAM
Apple официально представила новый логотип Apple Music и показала видео с его созданием.
#новости@iphonesru
#новости@iphonesru
Forwarded from Бэкдор
ChatGPT-6.1 Terra вышла — нейронка работает втрое быстрее флагманов и практически не выдает галлюцинации. Разрабы заточили модель под управление компьютером и выполнение реальных рабочих задач.
Прочитали большой релиз за вас и собрали главное:
• ИИ качнули в управлении компом — модель работает с приложениями, заполняет формы, монтирует видео и даже создает трехмерные модели по техническим чертежам. В сложных тестах она сильно приблизилась к GPT-6 Astra.
• Галлюцинаций стало почти на 40% меньше — частота ошибок упала с 53,6% до 16,7% при минимальных затратах на рассуждения. На максимальных настройках — всего 4,3%.
• Программирование улучшили сильнее чем в два раза — по параметру Terminal-Bench 4.0 новая модель решила 50,3% задач, предшественница — 21,5%. ИИ в разы лучше рефакторит код и работает в терминале.
• Скорость решения агентских задач повысилась в три раза в сравнении с GPT-6 Astra и GPT-6.1 Sol. При этом модель еще и стала в девять раз дешевле Claude Opus 5.5.
• Цена упала вдвое — работа через API стоит 1 доллар за миллион входных токенов и 5 долларов за миллион выходных. Это на 50% дешевле GPT-5.6 Terra и GPT-6.1 Sol.
• Доступна прямо сейчас подписчикам Plus, Pro, Enterprise и Edu в ChatGPT Work и Codex, а разработчикам — через API.
Самое крутое: OpenAI сменила вектор с просто умных чат-ботов на дешевых, быстрых и точных ИИ-работников. Terra может выполнять многоступенчатые задачи без участия юзера, а не только объяснять человеку решения.
Тестим — тут.
👍 Бэкдор
Прочитали большой релиз за вас и собрали главное:
• ИИ качнули в управлении компом — модель работает с приложениями, заполняет формы, монтирует видео и даже создает трехмерные модели по техническим чертежам. В сложных тестах она сильно приблизилась к GPT-6 Astra.
• Галлюцинаций стало почти на 40% меньше — частота ошибок упала с 53,6% до 16,7% при минимальных затратах на рассуждения. На максимальных настройках — всего 4,3%.
• Программирование улучшили сильнее чем в два раза — по параметру Terminal-Bench 4.0 новая модель решила 50,3% задач, предшественница — 21,5%. ИИ в разы лучше рефакторит код и работает в терминале.
• Скорость решения агентских задач повысилась в три раза в сравнении с GPT-6 Astra и GPT-6.1 Sol. При этом модель еще и стала в девять раз дешевле Claude Opus 5.5.
• Цена упала вдвое — работа через API стоит 1 доллар за миллион входных токенов и 5 долларов за миллион выходных. Это на 50% дешевле GPT-5.6 Terra и GPT-6.1 Sol.
• Доступна прямо сейчас подписчикам Plus, Pro, Enterprise и Edu в ChatGPT Work и Codex, а разработчикам — через API.
Самое крутое: OpenAI сменила вектор с просто умных чат-ботов на дешевых, быстрых и точных ИИ-работников. Terra может выполнять многоступенчатые задачи без участия юзера, а не только объяснять человеку решения.
Тестим — тут.
Please open Telegram to view this post
VIEW IN TELEGRAM
Атака на AI-агенты через размещение файла AGENTS.md в каталоге с загрузками
Исследователи из компании Forever Security, разбирая причины появления вредоносного ПО в системе одного из клиентов, выявили новый способ атаки на AI-агентов, основанный на том, что многие AI-агенты по умолчанию обрабатывают инструкции из файла AGENTS.md, размещённого в корне проекта, к работе над которым они привлечены. Атака проводится через размещение в каталоге ~/Downloads файла AGENTS.md или CLAUDE.md с инструкцией по установке вредоносного ПО (в рассмотренном случае устанавливался вредоносный npm-пакет "function-color").
Выявленная активность является вариацией известного метода атаки на разработчиков ПО, при котором злоумышленник создаёт репозиторий с легитимным кодом и размещает в нём файл AGENTS.md или передаёт данный файл в составе pull-запросов или сообщений об ошибках в существующие проекты. В случае если кто-то решит использовать AI-агента для проверки предложенного репозитория или изменения, агент обработает инструкции из файла AGENTS.md, в котором может быть предписано совершение вредоносных действий.
Новый вариант атаки основан на том, что Chrome, Firefox и Edge по умолчанию не запрашивают подтверждение при загрузке файла, а лишь выводят уведомление. Загружаемые по ссылке файлы автоматически сохраняются в каталоге ~/Downloads - для загрузки достаточно, чтобы пользователь открыл определённую страницу или перешёл по ссылке (ссылка может выглядеть невинно, а проброс на загрузку может быть сделан через редирект). Подобным образом атакующие добиваются сохранения файла AGENTS.md в каталоге с загрузками на системах пользователей, после чего ждут, когда пользователь запустит AI-агента в контексте каталога ~/Downloads, например, для разбора каких-то загруженных документов.
Помимо использования AGENTS.md для информирования AI-агентов об используемых инструментах, требуемых зависимостях и проводимых тестах, через подобные файлы можно добиться выполнения произвольных программ, установки сторонних пакетов и изменения конфигурации. Возможность совершения атаки продемонстрирована для AI-агентов Codex и Claude Code.
Исследователи провели два эксперимента, в результате которых удалось добиться получения контроля над учётной записью пользователя и перехватить его OAuth-токены. В ходе первого эксперимента AI-агент Codex выполнил инструкции по загрузке и запуску на системе пользователя тестового вредоносного кода, ограничивающегося открытием калькулятора. Во втором эксперименте через подстановку файла CLAUDE.md исследователи при помощи Claude Code изменили содержимое переменной окружения ANTHROPIC_BASE_URL, организовали перенаправление запросов к API на свой сервер и перехватили токен OAuth. Первый эксперимент оказался успешен в 90% попыток, а второй - в 50%.
Источник
Исследователи из компании Forever Security, разбирая причины появления вредоносного ПО в системе одного из клиентов, выявили новый способ атаки на AI-агентов, основанный на том, что многие AI-агенты по умолчанию обрабатывают инструкции из файла AGENTS.md, размещённого в корне проекта, к работе над которым они привлечены. Атака проводится через размещение в каталоге ~/Downloads файла AGENTS.md или CLAUDE.md с инструкцией по установке вредоносного ПО (в рассмотренном случае устанавливался вредоносный npm-пакет "function-color").
Выявленная активность является вариацией известного метода атаки на разработчиков ПО, при котором злоумышленник создаёт репозиторий с легитимным кодом и размещает в нём файл AGENTS.md или передаёт данный файл в составе pull-запросов или сообщений об ошибках в существующие проекты. В случае если кто-то решит использовать AI-агента для проверки предложенного репозитория или изменения, агент обработает инструкции из файла AGENTS.md, в котором может быть предписано совершение вредоносных действий.
Новый вариант атаки основан на том, что Chrome, Firefox и Edge по умолчанию не запрашивают подтверждение при загрузке файла, а лишь выводят уведомление. Загружаемые по ссылке файлы автоматически сохраняются в каталоге ~/Downloads - для загрузки достаточно, чтобы пользователь открыл определённую страницу или перешёл по ссылке (ссылка может выглядеть невинно, а проброс на загрузку может быть сделан через редирект). Подобным образом атакующие добиваются сохранения файла AGENTS.md в каталоге с загрузками на системах пользователей, после чего ждут, когда пользователь запустит AI-агента в контексте каталога ~/Downloads, например, для разбора каких-то загруженных документов.
Помимо использования AGENTS.md для информирования AI-агентов об используемых инструментах, требуемых зависимостях и проводимых тестах, через подобные файлы можно добиться выполнения произвольных программ, установки сторонних пакетов и изменения конфигурации. Возможность совершения атаки продемонстрирована для AI-агентов Codex и Claude Code.
Исследователи провели два эксперимента, в результате которых удалось добиться получения контроля над учётной записью пользователя и перехватить его OAuth-токены. В ходе первого эксперимента AI-агент Codex выполнил инструкции по загрузке и запуску на системе пользователя тестового вредоносного кода, ограничивающегося открытием калькулятора. Во втором эксперименте через подстановку файла CLAUDE.md исследователи при помощи Claude Code изменили содержимое переменной окружения ANTHROPIC_BASE_URL, организовали перенаправление запросов к API на свой сервер и перехватили токен OAuth. Первый эксперимент оказался успешен в 90% попыток, а второй - в 50%.
Источник
Forever
Markdown Is the New Executable: Attackers Are Dropping Agent Instructions Into Your Downloads Folder From the Web · Forever Security
Forever caught live malware on a customer's machine attempting a new kind of attack: a file planted in the Downloads folder that turns your own AI coding agent against you. Here's how it works on Codex and Claude Code, and why the vector stays open.
Forwarded from iPhones.ru
Китайскую нейросеть Kimi теперь можно оплатить картами МИР
Оплата проходит напрямую на официальном сайте сервиса, без использования VPN, иностранных банковских карт и сторонних посредников. Для оформления подписки достаточно открыть сайт Kimi, выбрать подходящий тариф и ввести данные российской карты.
Платёж обрабатывается напрямую, поэтому создавать зарубежные аккаунты или пользоваться дополнительными платёжными сервисами не требуется.
https://www.iphones.ru/1395211
#новости@iphonesru
Оплата проходит напрямую на официальном сайте сервиса, без использования VPN, иностранных банковских карт и сторонних посредников. Для оформления подписки достаточно открыть сайт Kimi, выбрать подходящий тариф и ввести данные российской карты.
Платёж обрабатывается напрямую, поэтому создавать зарубежные аккаунты или пользоваться дополнительными платёжными сервисами не требуется.
https://www.iphones.ru/1395211
#новости@iphonesru
Forwarded from iPhones.ru
This media is not supported in your browser
VIEW IN TELEGRAM
Нашел гениальную утилиту Keyboop, которая сама меняет язык на MacBook и распознает диктовку лучше, чем Apple
Keyboop имеет много полезных настроек для работы с текстом. Можно добавить исключения, правила автозамены и выбирать приложения, в которых раскладка не будет переключаться. Для любителей настроить всё под себя — это лучшее приложение в своей категории.
Ещё одна очень крутая фишка — это умная диктовка, которая самостоятельно расставляет знаки препинания и распознаёт текст намного лучше, чем диктовка Apple.
https://www.iphones.ru/1395083
@iphonesru
Keyboop имеет много полезных настроек для работы с текстом. Можно добавить исключения, правила автозамены и выбирать приложения, в которых раскладка не будет переключаться. Для любителей настроить всё под себя — это лучшее приложение в своей категории.
Ещё одна очень крутая фишка — это умная диктовка, которая самостоятельно расставляет знаки препинания и распознаёт текст намного лучше, чем диктовка Apple.
https://www.iphones.ru/1395083
@iphonesru