Какъв е шансът AI да поеме контрол над хората?
Джефри Хинтън е един от кръстниците на AI. Той е категоричен, че AI ще надмине човешкия интелект и се тревожи, че не сме достатъчно подсигурени относно неговото развитие. Това не е само негово мнение. Много експерти в сферата смятат, че идеята AI да надмине човешкия интелект е неизбежна. Всъщност наблюдаваме консенсус по темата на лидерите в областта. Изглежда тук въпросът е не дали, а кога ще се случи.
Rogue Robots
Хинтън е един от тримата кръстници на Изкуствения Интелект. През 2023 г. той напусна позицията си в Google и в забележка, която стана характерна за новооткритата му роля като Опенхаймер в индустрията сподели, че съжалява за работата на живота си. Същевременно предупреждава за екзистенциалните рискове, породени от технологията.
Като се има предвид този голям спектър от мнения, може би е разумно да бъдем по-предпазливи относно разработването и регулирането на ИИ. Никой не изключва възможностите последният да поеме контрол над хората. Според учените шансът за това е много по-голям от един процент. Не знаем дали изкуственият интелект ще стане измамник и ще се опита да поеме водеща роля, но е добре да сме наясно, можем ли да го контролираме или не.
Данни към момента
В сегашния си вид военните приложения на технологията са това, което изглежда най-много тревожи учените. Въпросът тук е кога AI ще може автономно да взема решение да убиват хора. Световните правителства са обвинени за липсата на желание да регулират по-стриктно тази област.
Друг проблем, който се дискутира широко през последните няколко години е, до колко и кога изкуственият интелект ще поеме нашите работни места. Това ще повиши производителността, но печалбите от богатство за пореден път ще бъдат разпределени непропорционално при богатите. Те няма да достигнат тези, чиито работни места са били унищожени.
Неравностойна борба
Ако това е някаква утеха, превземането на човечеството от измамен изкуствен интелект е напълно предизвестен, само че накрая изкуственият интелект ще бъде по-умен от нас. И все пак, можем да поспорим относно компаниите, ориентирани към печалба, които разработват AI модели. Дали те са най-надеждните носители на безопасното развитие на технологията.
OpenAI, който има история в тази област, наскоро беше критикуван от бивш служител по безопасността, след като той загуби вяра, че компанията ще разработи отговорно суперинтелигентен AI. Факт е, че не само Хинтън е обезпокоен от водещите тенденции.
