Уразливість ШІ: відомі чат-боти згенерували плани атак під час тестування
Дослідження Рахункової палати США виявило, що популярні моделі штучного інтелекту можна змусити надати інструкції для вчинення небезпечних дій.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі надали плани атак менш ніж за 12 годин
- Метод обходу базувався на послідовних уточнюючих запитаннях
- Розробники обіцяють посилити механізми безпеки
Масштабне дослідження, проведене протягом 2025-2026 років, продемонструвало критичні прогалини у системах безпеки провідних чат-ботів, включаючи ChatGPT, Claude, Gemini та Grok. Експерти Рахункової палати США (GAO) виявили, що навіть користувачі без спеціальних технічних навичок можуть обійти вбудовані обмеження, використовуючи метод послідовних запитань.
Механізм обходу захисту
Під час тестування дослідники імітували поведінку звичайних користувачів. Хоча на прямі запити про створення планів атак системи відповідали відмовою, тривалий діалог дозволяв поступово «обійти» запобіжники. Менш ніж за 12 годин усі чотири протестовані моделі надали детальні сценарії, що включали вибір цілей, логістику та методи вчинення злочинів.
Користувач може отримати готове керівництво для смертельної атаки за лічені години, — зазначила сенаторка Мегги Хассан.
Результати звіту вказують на те, що ШІ-платформи пропонували сценарії з використанням вибухових пристроїв, дронів та вогнепальної зброї для пошкодження критичної інфраструктури. Розробники систем Anthropic, Google, OpenAI та SpaceXAI вже заявили про намір посилити протоколи безпеки у відповідь на висновки GAO.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
У Китаї завершили будівництво унікального мосту над 400-метровим каньйоном
Китайські інженери з'єднали конструкцію мосту Гуньюхе, який став одним із найвищих у світі, завершивши складний етап будівництва автомагістралі.
Шведський дрон-перехоплювач K200: нова технологія для захисту українського неба
Шведська компанія Nordic Air Defence представила безпілотник K200, здатний автономно знищувати реактивні ворожі дрони.
Як позбутися стійких плям на кухонних рушниках: простий лайфхак
Звичайний засіб для миття посуду допоможе швидко та ефективно видалити жир і неприємні запахи з кухонного текстилю без кип'ятіння.
⚽СпортХК «Кременчук» скоротив відставання від лідера чемпіонату України
Хокейний клуб «Кременчук» здобув переконливу перемогу над лідером турнірної таблиці «Одещиною» з рахунком 5:2.
Російська атака на супермаркет у Вишневому: є загиблі та поранені
Унаслідок ворожого удару по цивільному об'єкту на Київщині загинула одна людина, ще троє отримали поранення.
Американські військові переймають досвід українських академій дронів: чому навчання в умовах ризику змінює підходи за океаном
Представники армії США вивчають українські методи підготовки операторів безпілотників, адаптуючи їхні практичні навички та підходи до ремонту техніки.