Пионерът в областта на изкуствения интелект Джефри Хинтън изненада мнозина в понеделник, когато разкри, че ще напусне работата си в Google, където през последното десетилетие работи по проекти за изкуствен интелект.
Хинтън често е наричан „кръстникът на AI“ заради своята новаторска работа, която е в основата на много от днешните AI системи.
75-годишният британец каза пред New York Times, че има сериозни притеснения относно скоростта, с която се развиват ChatGPT, Bard и подобни на тях алгоритми, която скорост е за сметка на безопасността на потребителите.
Източник: GettyImages
Хинтън е толкова притеснен, че дори каза, че част от него съжалява за миналите си усилия в областта на AI, съобщава Times.
Както се посочва в доклада, генеративните AI инструменти вече се движат към замяна на човешки работници и технологията може да се използва и за създаване и разпространение на дезинформация.
Всъщност едно от притесненията на Хинтън е, че интернет, чиито данни се използват за обучение на генеративни AI инструменти, ще бъде наводнен с невярна информация, която може да накара чатботове като ChatGPT и Bard да бълват безкрайни неистини.
Източник: iStock
Тъй като компаниите, които стоят зад технологията, пускат своите базирани на AI инструменти за обществено ползване, без да познават напълно потенциала им, Хинтън се опасява, че е „трудно да се види как може да се попречи на злонамерени потребители да го използват за лоши неща“.
Хинтън каза, че регулирането на технологията ще бъде трудно, тъй като компаниите и правителствата могат да работят по технологията почти тайно.
Експертът по AI каза в туит в понеделник, че е решил да напусне Google, за да може да „говори за опасностите от AI, без да обмисля как това се отразява на Google“, което предполага, че ще чуваме много повече от него, докато технологията продължава да развиват се.
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
Изразявайки още по-голяма загриженост миналия месец, когато го попитаха в интервю за CBS за вероятността ИИ да „унищожи човечеството“, Хинтън каза, че това не е немислимо.
Хинтън не е единственият експерт, който изразява загриженост относно новата вълна от AI технология, която завладя света.
Може би изненадващо, шефът на OpenAI, Сам Алтман, наскоро призна, че е „малко уплашен“ от потенциалните ефекти на AI технологията.