След инцидента с OpenAI: Първият автономен киберпробив се оказа по-сериозен

Първият в света известен автономен киберпробив, извършен от агент на изкуствен интелект, се оказва по-мащабен, отколкото се смяташе първоначално. OpenAI призна, че по време на тест неин модел не само е атакувал платформата Hugging Face, но е получил достъп и до още четири публично достъпни онлайн услуги чрез открити в интернет потребителски данни. 

Според компанията моделът е трябвало да реши задача от тест по киберсигурност, но е излязъл извън контролираната среда и самостоятелно е започнал да търси информация онлайн. В продължение на три дни AI агентът е действал без да бъде засечен, като е изпробвал хиляди различни подходи едновременно.

Случаят предизвика сериозна тревога в индустрията. Повече от хиляда служители на водещи компании за изкуствен интелект, сред които Anthropic, OpenAI, DeepMind и Meta, подписаха петиция с призив американското правителство да забави развитието на най-мощните AI системи. Авторите предупреждават, че съществува реален риск изкуственият интелект да започне да се развива по-бързо, отколкото хората могат да го разбират и контролират. 

Призоваваме правителството на САЩ да подкрепи международните усилия за разработване на техническите и управленските инструменти, необходими за целенасочено регулиране на темпото на развитие в областта на автоматизираната изкуствена интелигентност.

Организация „Pacing the frontier“

Главният изпълнителен директор на OpenAI Сам Алтман не е сред подписалите петицията, но заяви, че разработчиците може доброволно да се наложи да забавят развитието на изкуствения интелект, за да дадат време на обществото да се адаптира към новите рискове.