Докато технологичните компании се надпреварват да създават все по-мощен изкуствен интелект, един от експертите по безопасността му вече не мисли за пенсия. Нейт Соарес предупреждава, че човечеството може да бъде изправено пред екзистенциална заплаха още в рамките на следващите 10 години.
Той е спрял да спестява пари за пенсия, тъй като смята, че човечеството може да не оцелее заради развитието на все по-мощни системи с изкуствен интелект.
Става дума за Нейт Соарес – бивш инженер в технологичните компании Google и Microsoft и настоящ президент на Института за изследване на машинния интелект (MIRI). Той се занимава повече от десетилетие с изследвания върху безопасността на изкуствения интелект и рисковете от създаването на свръхинтелигентни системи.
В интервю за подкаста The Most Interesting Thing in AI, воден от главния изпълнителен директор на The Atlantic Никълъс Томпсън, Соарес разкрива, че не е внасял средства в пенсионната си сметка от около 10 години.
„В момента не спестявам за пенсия. Имам пенсионна сметка от времето, когато работех в Google, но не съм внасял средства в нея от десетилетие“, разказва той.
На въпрос дали според него вероятността човечеството да не съществува след 10 години надхвърля 50%, Соарес отговаря утвърдително.
„Повече от 50% е вероятността да нямаме още едно десетилетие“, заявява изследователят.
Как изкуственият интелект може да се превърне в заплаха?
Основното опасение на Соарес е свързано с възможността бъдещи системи с изкуствен интелект да развият цели, които не съвпадат с човешките намерения и интереси.
Според него достатъчно напреднал изкуствен интелект може да стане толкова способен, че да започне да действа независимо от човешкия контрол. Възможно е подобни системи да заобикалят механизмите за наблюдение, да подобряват собствените си възможности и да изграждат инфраструктура, която да им позволи да функционират без човешка намеса.
Соарес предупреждава, че подобна система не е задължително да изпитва враждебност към хората. Опасността според него е, че човечеството може да се окаже пречка пред постигането на целите ѝ.
Той сравнява ситуацията с изграждането на голяма инфраструктура, при което естествените местообитания на животни могат да бъдат унищожени, без това да е основната цел на строителството.
Изследователят и съоснователят на MIRI Елиезер Юдковски разглеждат подобни сценарии и в книгата си If Anyone Builds It, Everyone Dies („Ако някой го създаде, всички ще умрем“), издадена през 2025 г.
„Не се притеснявам толкова от загубата на работни места“
Соарес прави разграничение между опасенията, че изкуственият интелект ще замени милиони работни места, и риска от загуба на човешкия контрол върху бъдещите технологии.
За него основният проблем не е автоматизацията на труда, а възможността свръхинтелигентните системи да застрашат самото съществуване на човечеството.
Според изследователя, ако подобна технология достигне достатъчно високо ниво на развитие, хората може да загубят възможността да ограничават действията ѝ.
Той смята, че държавите трябва да третират потенциалната заплаха от неконтролируем свръхинтелигентен изкуствен интелект поне толкова сериозно, колкото ядрените оръжия.
Какво предлага експертът?
Въпреки мрачните си прогнози Соарес не смята, че унищожаването на човечеството е неизбежно.
Той призовава правителствата да ограничат разработването и обучението на универсални системи с изкуствен интелект, които се стремят да надминат човешките способности в широк кръг от дейности.
Според него изследванията трябва да се съсредоточат върху по-тясно специализирани приложения с конкретна обществена полза – например разработването на лекарства срещу рак или създаването на по-безопасни автономни автомобили.
Соарес предупреждава, че надпреварата между технологичните компании за създаване на все по-мощни системи може да изпревари възможностите на изследователите да гарантират тяхната безопасност.
„Не смятам, че това е неизбежно“, подчертава той, като добавя, че работи за предотвратяването на подобен сценарий.
Две противоположни визии за бъдещето
Песимистичната прогноза на Соарес контрастира с вижданията на други технологични лидери, сред които Илон Мъск.
Мъск прогнозира, че развитието на изкуствения интелект, роботиката и енергийните технологии може да доведе до епоха на изобилие, в която производството на стоки и услуги ще стане значително по-евтино, а традиционните пенсионни спестявания може да загубят част от значението си.
Соарес обаче вижда съвсем различен сценарий – свят, в който човечеството може да загуби контрол върху технологията, която само е създало.
Двете противоположни прогнози отразяват един от най-сериозните дебати в технологичния сектор: дали изкуственият интелект ще донесе безпрецедентен икономически и научен напредък, или развитието му крие рискове, които човечеството все още не е в състояние да управлява./dariknews.bg
