У своїй книзі «Human Compatible», британський фахівець зі штучного інтелекту Стюарт Рассел розглядає так звану «проблему контролю» - ситуацію, коли універсальний штучний інтелект зрештою перевершує за інтелектом своїх творців.
Стюарт Рассел — член AAAI, Американської асоціації фахівців зі штучного інтелекту та автор декількох книг. Він зазначає, що до проблеми контролю вже зверталися багато вчених та письменників-фантастів. У 1950 роках, основоположник кібернетики Норберт Вінер написав роботу «Людське використання людських істот», в якій стверджував, що небезпека для суспільства виходить не від самих машин, а від того, що саме людина змушує машини робити. Книга Рассела розглядає той же постулат: хто несе відповідальність, творець або його створіння?
Хоча в книзі Рассела ані слова, коли і як саме штучний інтелект може стати універсальним та суперрозумним, він вказує на важливу проблему необхідності контролю за розробками все більше автономного штучного інтелекту.
Починаючи з самих ранніх років, штучний інтелект вражений протиріччям, вважає Рассел. У 1956 році в Дартмутському коледжі Ганновера, легендарному місці народження штучного інтелекту, майбутній нобелівський лауреат Герберт Саймон та Аллен Ньюелл пропонували назвати своє творіння «пристроєм для комплексної обробки інформації». Джон Маккарті та Марвін Мінскі віддавали перевагу більш розпливчастій назві - «штучний інтелект».
Маккарті та Мінскі, а також інші їх прихильники захоплювалися біхевіоризмом та припускали, що прояву розумної поведінки досить для того, щоб довести наявність інтелекту. Тобто машини, які виглядають розумними, можна називати розумними. Їх точка зору, як ми знаємо, перемогла, і наслідки цієї перемоги двоїсті, пише Рассел.
У «Human Compatible» вчений описує варіанти зловживання штучним інтелектом. Він попереджає, як штучний інтелект — технологія, яка розпізнає обличчя та голоси, генератори діпфейков, системи інтеграції інформації — може застосовуватися для стеження, контролю та масовою маніпуляцією поведінкою.
Рассел не розглядає «нудні» алгоритми, які допомагають вченим прогнозувати землетруси або урагани, підвищувати ефективність електростанцій, утилізувати сміття чи діагностувати захворювання. Протагоніст його книги - «суперрозумний» штучний інтелект, який зумів перевершити за інтелектом людину. Поки цього не сталося, але краще б нам підготуватися до цього.
Нагадаємо, що зовсім недавно, засновник Tesla та SpaceX Ілон Маск, відомий своїм песимізмом щодо штучного інтелекту, заявив, що вже найближчим часом руйнівну міць алгоритмів відчує кожен — по стрічці видачі чи по тону обговорень в соціальних мережах. Маск давно переконаний, що розвиток штучного інтелекту може поставити людей на один щабель з мавпами.
За матеріалами: Хайтек+
