Код Иновации: Когато алгоритъмът решава: Кой носи отговорност за грешките на кода?

Алгоритмите вече не са просто инструмент, а посредник във вземането на решения – от бизнеса и администрацията до сигурността и личните ни данни. Когато кодът греши, въпросът вече не е технически, а политически и правен: кой носи отговорност, кой контролира влиянието му и къде започва новата форма на власт?

По темата разговаряме с членовете на работната комисия по изкуствен интелект към БАИТ – Иван Дудин и Ирина Янева. Обсъждаме регулациите, риска от прекомерна автоматизация и необходимостта от човешки надзор в системи, които все по-често вземат решения вместо нас.

В изданието разглеждаме и актуални примери за напрежението между иновациите и сигурността. Европейският парламент деактивира вградените AI функции на служебните устройства на евродепутатите заради опасения, свързани със защитата на данните и киберрискове. Решението показва, че институциите стават по-предпазливи към интеграцията на генеративни модели в чувствителна среда.

Показваме и нова AI система, която може за секунди да определи къде е направена дадена снимка – дори без налични метаданни. Технологията отваря сериозен дебат за поверителността и възможностите за злоупотреба.

На финала питаме и самите ботове – ChatGPT и Gemini – до каква степен според тях изкуственият интелект трябва да бъде интегриран в бизнесите и къде е границата между ефективност и зависимост.