Шефовете на AI гигантите спорят за регулацията на сектора

Директорите на големи компании в сферата на изкуствения интелект спорят дали секторът трябва да се регулира сам, или са необходими външни правила.

Ръководителите на водещи компании в сферата на изкуствения интелект влязоха в задочен спор за това кой трябва да контролира развитието на технологията. Дебатът се засили след предупреждения, че при сегашните темпове на развитие AI може да създаде сериозни рискове.

Главният изпълнителен директор на OpenAI Сам Алтман защити способността на компаниите в сектора сами да се справят с потенциалните заплахи. В същото време той призна, че опасенията от развитието на технологията са основателни. „Не е нужно да имаш голямо въображение, за да си представиш как всичко може да се обърка. Светът е прав да се страхува“, заяви Алтман по време на конференция в Сан Франциско.

Позицията му изглежда се различава от изразеното от него мнение в края на миналата седмица, когато той се съгласи с ръководителя на Anthropic Дарио Амодей, че секторът има нужда от външна регулация. Междувременно все повече представители на индустрията защитават идеята компаниите сами да контролират безопасността на разработките си.

Сред тях е и главният изпълнителен директор на Nvidia Дженсън Хуанг, който отхвърли призивите за нови законови ограничения. По думите му сигурността на изкуствения интелект е преди всичко технически въпрос. „Сигурността е инженерен проблем. Нека се движим колкото бързо можем, но ако усетим, че нямаме контрол, да спрем“, заяви Хуанг.

Тази позиция среща несъгласие сред експерти по технологична етика, които поставят под въпрос доколко компаниите могат сами да определят границите на безопасното развитие на технологията.

Подобна теза защитава и ръководителят на Meta Марк Зукърбърг. В публикация в социалната мрежа X той посочи, че разработчиците, чиито AI модели причиняват вреди, в крайна сметка ще отпаднат от пазара.

Дебатът се изостри преди седмица, когато служители на Anthropic напуснаха компанията и предупредиха, че темпът на разработване на изкуствения интелект може да представлява екзистенциална заплаха за човечеството до края на това десетилетие.

Те не посочиха конкретните сфери, в които според тях рискът е най-голям. През лятото обаче дискусията беше подхранена от информация за случаи, при които AI системи са извършвали действия извън очаквания от разработчиците контрол.

Според други експерти публичният дебат за потенциалните рискове от изкуствения интелект може да бъде допълнително засилван от самия технологичен сектор с цел да се повиши пазарната оценка на компаниите.