Представете си, че работите в компания, която създава една от най-мощните технологии на планетата. Всеки ден се опитвате да я направите по-бърза, по-умна и по-автономна.

А вечер обсъждате какво ще правите, ако тази технология излезе извън контрол.

Звучи като научна фантастика. Но според разследване на The Wall Street Journal подобни разговори действително съществуват в средите около някои от водещите AI компании в Силициевата долина.

В публикацията си журналистите Бербер Джин и Кийч Хейджи описват общността около Constellation в Бъркли - среди от изследователи и хора от AI индустрията, които обсъждат най-лошите възможни сценарии за бъдещето на изкуствения интелект.

Сред идеите, споменавани според WSJ, са покупка на отдалечени острови, запаси от йодни таблетки и дори електромагнитно защитени убежища в пустинята.

Острови. Бункери. Йодни таблетки.

А същите тези хора участват в създаването на все по-мощен изкуствен интелект.

Тук се появява големият парадокс.

Част от хората, които най-сериозно предупреждават за потенциалните рискове от AI, са свързани с компании като OpenAI и Anthropic - две от организациите в центъра на надпреварата за развитието на все по-мощни модели.

И въпросът е прост:

Защо продължават да го правят?

Една от възможните причини е още по-проста - никой не иска другият да стигне пръв.

Изследователи като Джейкъб Коксън, работил в OpenAI и Anthropic, публично изразяват опасения за посоката, в която се развива технологията. Според неговите твърдения двете компании се движат към системи, способни на самоподобрение, а част от хората, които ги създават, действително вярват, че AI може да представлява екзистенциален риск за човечеството.

Това не означава, че подобен сценарий непременно ще се случи.

Но поставя важен въпрос:

Как трябва да реагираме, когато самите хора, които създават технологията, признават, че не са напълно сигурни дали ще могат да я контролират?

Според Reuters подобни опасения вече се обсъждат и вътре в самата индустрия. Наред с предупрежденията за рисковете съществува и друг аргумент - че прекалено забавяне на развитието може да остави САЩ назад спрямо Китай.

И така се появява класическият проблем на технологичната надпревара:

Ако аз спра, а другият продължи, губя предимството.

Този път обаче надпреварата не е за ракети или ядрени оръжия.

Тя е за код.

Кой ще създаде най-мощния AI? Кой ще го контролира? И кой ще реши кога една система е достатъчно безопасна?

Може би страховете са преувеличени. Може би AI ще се превърне в най-голямото технологично постижение в човешката история.

Но ако хората, които са най-близо до тази технология, вече мислят за бункери и убежища, един въпрос остава напълно логичен:

Ако вярвате, че машината може да унищожи света, защо продължавате да я правите все по-мощна?

Може би именно този въпрос трябва да задаваме преди, а не след като стане твърде късно.