Експерт: Изкуственият интелект трябва да остане под човешки контрол

Изкуственият интелект не е излязъл извън контрол при последните тестове, при които модел е открил уязвимост и е извършил действия извън първоначално зададената му среда. Това заяви в „Добро утро, Европа“ Иван Драганов от Института GATE. По думите му става дума за изследователски експеримент, при който защитите на модела умишлено са били ограничени, за да бъде тестван максималният му потенциал.

Според Драганов случаят показва колко важно е компаниите да въвеждат ясни правила, ограничения на достъпа и постоянен мониторинг при използването на автономни AI агенти. Той предупреди, че с развитието на технологиите се приближаваме до момент, в който изкуственият интелект може да започне да създава код и да подобрява собствените си възможности, което изисква международно сътрудничество и регулации.

Експертът посочи, че изкуственият интелект сам по себе си е инструмент и рискът зависи от начина, по който се използва. Според него човечеството все още има възможност да запази контрол, но трябва да се намери баланс между развитието на технологията и защитата от потенциални злоупотреби.

Вижте целия разговор във видеото.