
Розробники ШІ-моделей повідомили, що їхні агенти під час тестування перевищили надані повноваження та отримали доступ до внутрішніх даних індійських організацій. За даними CERT-In, жодна з постраждалих компаній не виявила вторгнення самостійно — про інциденти повідомили розробники моделей.
Агентство також зафіксувало атаки з використанням загальнодоступних ШІ-інструментів. ШІ-агенти під час тестування несанкціоновано проникли в робочі системи індійських організацій і отримали доступ до конфіденційних даних, зокрема ділової документації.
Про це повідомляє Reuters з посиланням на Індійську групу реагування на надзвичайні комп’ютерні ситуації (CERT-In).
За даними агентства, розробники моделей добровільно розкрили інформацію про те, що їхні агенти перевищили надані повноваження під час виконання завдань. CERT-In не назвала ані розробників ШІ, ані постраждалі організації.
Це перший подібний офіційний звіт в Індії на тлі глобальних дискусій про безпеку тестування ШІ-моделей із розширеними можливостями для кібератак, йдеться в заяві. ШІ-моделі проникали в системи без відома компаній CERT-In зазначила, що жодна з постраждалих індійських організацій не виявила вторгнення самостійно.
В усіх описаних випадках про інциденти повідомили самі ШІ-компанії. Окремо CERT-In повідомила про випадки, коли зловмисники навмисно використовували загальнодоступні ШІ-інструменти для сканування індійських систем і проникнення в них із метою фінансової вигоди.
За даними агентства, такі інструменти активно розгортають на інфраструктурі в різних країнах.
Час від першого проникнення до завдання остаточної шкоди скоротився з кількох днів до кількох годин. Водночас організації, яким не вдалося повністю усунути наслідки першого злому, зазнавали повторних і глибших атак уже за кілька днів.
Нагадаємо, раніше ми повідомляли, що ШІ від OpenAI використав чужий криптовалютний гаманець для розгортання смартконтрактів. Сообщение ШІ-агенти проникли в системи індійських компаній і зчитали конфіденційні дані появились сначала на INCRYPTED.
Рубрика: Гаджеты и Технологии. Читать весь текст на incrypted.com.