Нобелистът Джефри Хинтън заявява, че хората не разбират какво предстои в AL технологиите. Възможно е, на 20 %, те да се измъкнат от контрола на човека. „Най-добрият начин да го разберем емоционално е като си представим, че гледаме едно много сладко тигърче,“ казва той.
Нобелистът Джефри Хинтън, известне още като кръстникът на изкуствения интелект (AL), предупреди за изветни опасности предвид развитието му и дори заяви, че постепенно той може да започне да завладява света.
„Хората все още не разбират какво предстои в развитието на AI технологиите“, заяви Хинтън в предаване на CBS Saturday Morning. По думите му, има 10% – 20% вероятност той, в крайна сметка, да се изплъзне от контрола от човека и дори да започне да упражнява контрол върху него. „Хората още не са го разбрали, не осъзнават какво идва,“ подчерта той.
Хинтън, който миналата година неочаквано бе събуден посред нощ с новината, че е спечелил Нобелова награда за физика, сподели, че е мечтал за подобно признание, но не го е очаквал. „Мечтаех да спечеля за това, че ще разбера как работи мозъкът. Не го разбрах, но въпреки това спечелих наградата,“ казва с усмивка 77-годишният учен. Джефри Хинтън получи отличието за пионерската си работа по невронните мрежи, включително предложен още през 1986 г. метод за прогнозиране на следващата дума в изречение — концепция, която днес стои в основата на големите езикови модели като ChatGPT. Макар и да вярва, че изкуственият интелект ще преобрази образованието, медицината и може дори да помогне в борбата с климатичните промени, Хинтън изрази нарастващо безпокойство относно скоростта, с която се развива AI.
„Най-добрият начин да го разберем емоционално е като си представим, че гледаме едно много сладко тигърче. Но ако не сме сигурни, че когато порасне няма да ни убие, тогава има от какво да се тревожим.“, заявява нобелистът.
Тревогите му съвпадат с тези на други технологични лидери като Сундар Пичай (Google), Илон Мъск (хAI) и Сам Алтман (OpenAI), но Хинтън критикува същите тези компании, че поставят печалбите над сигурността.
„Големите корпорации в момента лобират за по-малко регулации на AI, въпреки че и сега почти няма такива,“ казва Хинтън. Той изрази особено разочарование от Google, където е работил дълги години, заради промяната в политиката им относно използването на изкуствения интелект за военни цели.
По думите му, AL компаниите трябва да отделят значително повече ресурси за изследвания, свързани със сигурността — „поне една трета“ от компютърната си мощ, вместо символичната част, която се инвестира в момента.
