Опасността от AI в Австралия: “Агент“ на OpenAI е проникнал в база данни на здравеопазването

През юни неконтролиран агент на OpenAI е проникнал в уебсайт на австралийското правителство и е получил достъп до лични данни. Според експертите това е първият известен случай на хакерска атака от изкуствен интелект. Агентът е влязъл в статистически портал, съдържащ данни от австралийската система за всеобщо здравно осигуряване „Медикеър“. От OpenAI заявиха, че са научили за пробива през август, a са съобщили на австралийските власти едва на 10 септември. 

Разследване, ръководено от агенцията за киберсигурност на страната, ще има за цел да установи дали са засегнати и други правителствени системи. 

Министърът на отбраната на Австралия определи пробива в сигурността на правителствения уебсайт, като „напълно неприемлив“.

Правителството разглежда този случай много сериозно. Въпреки това е важно да успокоим австралийската общественост, че последствията от този инцидент са сравнително незначителни. Става дума за обобщени медицински статистически данни. Не е бил осъществен достъп до медицинските данни на конкретни лица. Самата система не е била компрометирана по никакъв начин. Въпреки това, инцидентът е сериозен, защото по непреднамерен начин изкуствен интелект е проникнал в уебсайт на австралийското правителство. 

Ричард Марлс

 Австралия беше една от 22-те държави, които в началото на тази седмица подписаха съвместна декларация, призоваваща за глобален надзор и предпазни мерки при разработването на изкуствен интелект. Самите лидери на няколко компании в областта на изкуствения интелект заявиха, че скоростта, с която се развива изкуственият интелект, е опасна за човечеството и трябва да бъде ограничена.