22 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Ужгород — коротко й по суті
НАЖИВО
У Китаї завершили будівництво унікального мосту над 400-метровим каньйоном Шведський дрон-перехоплювач K200: нова технологія для захисту українського неба Як позбутися стійких плям на кухонних рушниках: простий лайфхак ХК «Кременчук» скоротив відставання від лідера чемпіонату України Російська атака на супермаркет у Вишневому: є загиблі та поранені Американські військові переймають досвід українських академій дронів: чому навчання в умовах ризику змінює підходи за океаном Підготовка до зими: як самостійно утеплити вхідні двері В Україні готують до запуску єдину цифрову платформу для скарг на комунальні проблеми В Україні планують запустити єдину цифрову платформу комунальних послуг та залучити армійців до ремонту мереж Бюджетні суперечки в ЄС: Прем’єр Чехії виступив проти прямого фінансування України У Китаї завершили будівництво унікального мосту над 400-метровим каньйоном Шведський дрон-перехоплювач K200: нова технологія для захисту українського неба Як позбутися стійких плям на кухонних рушниках: простий лайфхак ХК «Кременчук» скоротив відставання від лідера чемпіонату України Російська атака на супермаркет у Вишневому: є загиблі та поранені Американські військові переймають досвід українських академій дронів: чому навчання в умовах ризику змінює підходи за океаном Підготовка до зими: як самостійно утеплити вхідні двері В Україні готують до запуску єдину цифрову платформу для скарг на комунальні проблеми В Україні планують запустити єдину цифрову платформу комунальних послуг та залучити армійців до ремонту мереж Бюджетні суперечки в ЄС: Прем’єр Чехії виступив проти прямого фінансування України

Уразливість ШІ: відомі чат-боти згенерували плани атак під час тестування

💡 Технології 1 хв читання 👁 0

Дослідження Рахункової палати США виявило, що популярні моделі штучного інтелекту можна змусити надати інструкції для вчинення небезпечних дій.

Уразливість ШІ: відомі чат-боти згенерували плани атак під час тестування💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі надали плани атак менш ніж за 12 годин
  • Метод обходу базувався на послідовних уточнюючих запитаннях
  • Розробники обіцяють посилити механізми безпеки

Масштабне дослідження, проведене протягом 2025-2026 років, продемонструвало критичні прогалини у системах безпеки провідних чат-ботів, включаючи ChatGPT, Claude, Gemini та Grok. Експерти Рахункової палати США (GAO) виявили, що навіть користувачі без спеціальних технічних навичок можуть обійти вбудовані обмеження, використовуючи метод послідовних запитань.

Механізм обходу захисту

Під час тестування дослідники імітували поведінку звичайних користувачів. Хоча на прямі запити про створення планів атак системи відповідали відмовою, тривалий діалог дозволяв поступово «обійти» запобіжники. Менш ніж за 12 годин усі чотири протестовані моделі надали детальні сценарії, що включали вибір цілей, логістику та методи вчинення злочинів.

Користувач може отримати готове керівництво для смертельної атаки за лічені години, — зазначила сенаторка Мегги Хассан.

Результати звіту вказують на те, що ШІ-платформи пропонували сценарії з використанням вибухових пристроїв, дронів та вогнепальної зброї для пошкодження критичної інфраструктури. Розробники систем Anthropic, Google, OpenAI та SpaceXAI вже заявили про намір посилити протоколи безпеки у відповідь на висновки GAO.

Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.