Майже сорок років тому в США намагалися розширити межі обчислювальної техніки, штучного інтелекту та робототехніки. Вони хотіли створити щось нове, але таке, що дуже нагадує антиутопічне майбутнє з фільмів про Термінатора - суперкомп'ютер «Скайнет».
З 1983 по 1993 рік Агентство передових оборонних дослідницьких проєктів США (DARPA) витратило понад мільярд доларів на програму під назвою Strategic Computing Initiative (Стратегічна комп'ютерна ініціатива, або СКІ). DARPA хотіло створити «Скайнет» - бойову інформаційно-керуючу комп'ютерну систему.
Як і програма Зоряних війн Рональда Рейгана, ідея СКІ виявилася занадто футуристичною для свого часу. Але сьогодні, коли ми бачимо дивовижні успіхи в створенні військовими штучного інтелекту та роботів, які працюють без втручання людини, є сенс повернутися до цієї напівзабутої програми та задати собі питання: чи готові ми жити у світі пов'язаних між собою електронним мозком машин-вбивць? І ще одне, можливо даремний питання: якщо ми захочемо припинити це, чи не запізнилися ми зі своїми бажаннями?
«Можливості воістину приголомшливі...»
«Якщо техніка нового покоління буде розвиватися так, як ми очікуємо, то з'являться унікальні нові можливості для застосування комп'ютерів у військовій справі. Наприклад, замість прийняття на озброєння простих керованих ракет або літальних апаратів з дистанційним управлінням можна буде запускати повністю автономні наземні, морські та повітряні апарати, здатні виконувати складні та дуже різноманітні завдання з ведення розвідки та нанесення ударів. Можливості воістину приголомшливі, і вони говорять про те, що обчислювальна техніка нового покоління докорінно змінить характер майбутніх конфліктів».
Це уривок з маловідомого документа, представленого у жовтні 1983 року конгресу США. У ньому викладені головні завдання нової Стратегічної комп'ютерної ініціативи. І як все інше, чим DARPA займалося до і після цього, дана програма виявилася дуже амбітною.
Концепція Стратегічної комп'ютерної ініціативи була втілена в абсолютно новій системі, розробку якої очолив Роберт Кан, який керував тоді в DARPA відділом методики обробки інформації. Як розповідається у книзі «Strategic Computing» (Стратегічна обчислювальна техніка), яка вийшла у 2002 році, Кан не перший склав уявлення про цю систему, однак «він першим виклав концепцію та структуру майбутньої Стратегічної комп'ютерної ініціативи. Він запустив цей проєкт і визначив його зміст на ранньому етапі. СКІ знайшла своє власне життя, хоча нею керували інші люди, проте вона зберегла в собі вплив Кана».
Ця система повинна була створити такий світ, де автономні апарати не тільки збирають розвідувальні дані про ворога по всьому світу, але й володіють можливостями зі смертоносною точністю завдавати ударів з суші, з моря та з повітря. СКІ повинна була стати глобальною мережею, що з'єднує всі аспекти військово-технічного потенціалу США - потенціалу, що спирається на нові та неймовірно швидкі комп'ютери.
Але ця мережа призначалася не просто для холодної та неупередженої автоматизованої обробки інформації. Ні, нова система повинна була бачити, чути, діяти та реагувати. І що найважливіше, вона повинна була розуміти, причому без будь-яких підказок з боку людини.
Економічні перегони озброєнь
Походження СКІ дуже часто пов'язують з технологічною конкуренцією, яка виникла між США та Японією на початку 1980-х років. Японці хотіли створити суперкомп'ютери нового покоління, які повинні були лягти в основу системи штучного інтелекту. Об'єднавши економічну міць японської держави та нові можливості мікроелектроніки та комп'ютерної промисловості країни, вони приступили до створення комп'ютерної системи п'ятого покоління.
Мета полягала в розробці неймовірно швидких комп'ютерів, що дозволяють Японії відірватися від інших країн (насамперед, від США та «Кремнієвої долини», яка ще тільки зароджувалася) в гонитві за технологічну перевагу. На виконання цього завдання японці дали собі 10 років. Але як би вони не прискорювали свої машини, їм, як і американцям, не вдавалося зробити комп'ютери «розумнішими».
Японські устремління налякали багатьох американців. Їх турбувало те, що Америка втрачає свої провідні технологічні позиції. Ці страхи в чималому ступені розпалила книга Едварда Фейгенбаума та Памели Маккордак «The Fifth Generation: Artificial Intelligence and Japan's Computer Challenge to the World» (П'яте покоління: штучний інтелект і японський комп'ютерний виклик світу), яка вийшла у 1983 році та стала обов'язковою для читання на Капітолійському пагорбі.
Щоб популяризувати ідеї СКІ серед американського народу та ділових кіл, DARPA наполягала на тому, що мета ініціативи з самого початку полягає лише в просуванні економічних інтересів країни. Побічні результати від цієї технології повинні були створити нові стимули для економіки США, про що повідомляється в документі DARPA з планування:
«Комп'ютерні технології нового покоління будуть інтегровані в галузь побутової електроніки, створивши внутрішній ринок для застосування машинного інтелекту».
Звернення до приватного сектору та до вишівської системи також повинно було забезпечити допомогу найрозумніших та талановитих у виконанні завдань програми Агентства передових оборонних дослідницьких проєктів:
«Не менш важлива передача цих технологій у промисловість для створення кадрової бази інженерів та компонувальників систем, знайомих з комп'ютерними науками та технологіями машинного інтелекту, які сьогодні навчаються і працюють в провідних університетських лабораторіях, а також застосування цих нових технологій в асортименті продукції різних компаній. З цією метою ми будемо повною мірою використовувати регуляторні норми та правила державних закупівель, які стосуються захисту корпоративної виробничої інформації, комерційної таємниці, патентних прав, норм ліцензування та ліцензійних відрахувань».
І який висновок? Уряд надавав гарантії приватному сектору, що розроблені технології не будуть передаватися компаніям-конкурентам.
Але економічна конкуренція з японцями, нехай і була важливим рушійним мотивом, викликала лише вторинну заклопотаність у політиків, що заплуталися в перипетіях холодної війни. «Яструбів» з Республіканської партії найбільше турбувало військове будівництво та нарощування військової потужності. Багато з них вважали, що найважливіше - це військова загроза, що виходить від Радянського Союзу. І Стратегічна комп'ютерна ініціатива повинна була цю загрозу усунути.
Зв'язок з Зоряними війнами
Запуск програми СКІ та технічні завдання DARPA, що з'явилися у 1983 та 1984 роках, викликали гострі дебати в науковому співтоваристві - тому самому, яке в кінцевому підсумку виграло від фінансування в рамках цього проєкту. Хтось висловлював сумніви в можливості здійснення амбітних планів зі створення просунутого штучного інтелекту. Хтось турбувався з приводу того, що зі створенням штучного інтелекту в військових цілях почнеться жахлива епоха автономних армій роботів.
І це було цілком обґрунтоване занепокоєння. Якщо мета Зоряних війн (популярна назва Стратегічної оборонної ініціативи (СОІ) Рональда Рейгана) - це автоматична або напівавтоматична відповідь на будь-яку ракетно-ядерну загрозу з боку СРСР, то було б просто безглуздо не включити її в більш масштабну систему по-справжньому розумних машин. Завдання двох проєктів, не кажучи вже про інститути, які їх розробляли, занадто багато в чому збігалися та перетиналися, щоб бути простим збігом, хоча кожен наполягав на тому, що це саме збіг.
З роботи Кріса Хейблза Грея, написаної у 1988 році:
«Система бойового управління Зоряними війнами, що є, мабуть, найскладнішим та наймасштабнішим проєктом програмного забезпечення за всю історію, концептуально (але не адміністративно) входить до складу Стратегічної комп'ютерної ініціативи. Здійснити науковий прорив в обчислювальній техніці, який так необхідний СОІ, це ключова мета СКІ».
Якщо ви запитаєте будь-кого, хто працював в керівництві програми СКІ, то вам будуть наполегливо говоритиме про те, що Стратегічна комп'ютерна ініціатива не мала ніякого відношення до мрії Рейгана про Зоряні війни. Але люди з самого початку реалізації СКІ проводили зв'язок між нею та СОІ. Частково такі асоціації були викликані через схожість у назвах та через те, що ці назви їм дала одна людина - Роберт Купер, який обіймав посаду директора Агентства передових оборонних дослідницьких проєктів США з 1981 по 1985 роки. А може люди вбачали зв'язок через те, що комп'ютерні системи, які розроблялися для СКІ, цілком логічно підходили для застосування й у космічній стратегії протиракетної оборони.
Застосування стратегічної комп'ютерної ініціативи на суші, у морі та в повітрі
У підготовленій в 1983 році загальній схемі СКІ були викладені завдання цієї ініціативи. Мета була ясна та зрозуміла: розробити широку базу технологій штучного інтелекту для зміцнення національної безпеки та економічної потужності. Але щоб досягти її, конгресу та тим військовим відомствам, які повинні були в перспективі використовувати СКІ і її переваги, треба було побачити цю систему в дії.
У СКІ було три апаратних втілення, які повинні були довести її бойовий потенціал, хоча до кінця 1980-х років передбачалося розробити ще більше таких систем. В авангарді технічних розробок СКІ йшов автономний наземний транспортний засіб ALV, «помічник льотчика» та система бойового управління авіаносця.
Ці розробки планувалося оснастити неймовірно просунутими комп'ютерами, які проєктувалися в компанії BBN, найбільше відомої своєю роботою зі створення першої версії інтернету. Комп'ютери дозволяли домагатися проривних успіхів в таких областях, як системи технічного зору, мовного розуміння та навігації. А це найважливіші інструменти для створення інтегрованої військової сили людина-машина.
Автомобіль без водія - 1985 рік
Самим зловісним зовні продуктом, що виник з надр СКІ, був автономний наземний транспортний засіб ALV. Цей восьмиколісний автомобіль без водія був три метри у висоту та чотири в довжину. Він був оснащений камерою і датчиками, які монтувалися на даху та управляли рухом машини, бувши її «очима».
Компанія Martin Marietta, що об'єдналася у 1995 році з Lockheed Corporation, в результаті чого з'явився Lockheed Martin, влітку 1984 року виграла тендер на створення експериментального автономного наземного транспортного засобу. За три з половиною роки здійснення програми для СКІ вона повинна була отримати 10,6 мільйона доларів (з поправкою на інфляцію це становить майже 27 мільйонів у 2020 році) плюс 6 мільйонів додатково, якщо проєкт буде відповідати певним контрольним показникам.
У номері Popular Science за жовтень 1985 року з'явилася стаття про випробування, які проводилися на секретному полігоні компанії Martin Marietta на північному заході від Денвера. Автор статті Джим Шефтер так описував сцену випробувань на полігоні:
«Коробкоподібний біло-блакитний автомобіль повільно пересувається по вузькій дорозі в долині Колорадо не наважуючись відходити далеко від осьової лінії. Єдине вікно, схоже на око циклопа, встановлено на лобовій стороні машини, але водія там не видно. Вона пересувається обережно, майже крадькома, що здається трохи недоречним для цього восьмиколісного, триметрової висоти транспортного засобу. Хоча на ньому встановлено три дизельні двигуни, автомобіль їде повільно, зі швидкістю менш ніж п'ять кілометрів на годину».
«Пройшовши приблизно кілометр, незграбна машина зупиняється. Але з неї ніхто не виходить. Просто в машині нікого немає - один тільки комп'ютер. Користуючись лазером та відеокамерою як очима, експериментальна, але вже дуже складна програма штучного інтелекту веде автомобіль по дорозі без участі людини».
DARPA об'єднало зусилля Martin Marietta та Університету Меріленду, який проводив велику роботу по створенню системи технічного зору. Таке об'єднання здавалося відчутним для забезпечення успіху в розробці наземного транспортного засобу.
Створити відеосистему для автономного автомобіля виявилося неймовірно складно. Її можуть ввести в оману світло та тіні, а тому ступінь надійності у неї була недостатньою. Днем дорожнє узбіччя вона виявляла без проблем, а от з-за вечірніх тіней на заході Сонця, вона цілком могла сповзти в кювет.
Будь-які зміни в навколишньому середовищі, скажімо, бруд з-під коліс іншої машини, також збивали систему технічного зору з пантелику. Це було неприпустимо навіть в умовах випробувань на полігоні. Якщо машина не справляється з такими простими перешкодами, то як же вона буде діяти в складних та непередбачуваних умовах бою з безліччю змінних факторів?
До листопада 1987 року автономний наземний транспортний засіб було суттєво вдосконалено, однак до кінця року від нього фактично відмовилися. Хоча машина була досить примітивною, деякі фахівці з DARPA вважали, що її надто швидко скинули з рахунків.
У підсумку вона не змогла подолати свою непідготовленість до бою. Як зазначає Алекс Роланд у своїй книзі «Strategic Computing», «один офіцер, який абсолютно не розумів задум програми ALV, скаржився, що машина у військовому плані абсолютно марна: дуже повільна та білого кольору, що перетворює її в легку мішень на полі бою». А у квітні 1988 року Агентство передових оборонних дослідницьких проєктів офіційно припинило роботу над нею.
R2-D2, але в реальному житті
Другим практичним втіленням Стратегічною комп'ютерної ініціативи став «помічник льотчика». Розробники представляли його собі у вигляді невидимого робота R2-D2 - розумного супутника людини, який розуміє мову пілота. Помічник цей міг, наприклад, засікти ворожу ціль та запитати у пілота, чи потрібно її знищувати. Щось типу «Кращого стрільця» в компанії Siri з айфона.
Робот R2-D2 з кінофільму «Зоряні війни»
При такому сценарії остаточне рішення залишалося б за пілотом. Але його помічник повинен був бути досить розумним, щоб не тільки знати, хто ставить питання, що він питає, і як треба поставити питання. Він повинен був розуміти - чому він ставить це питання.
Ось рядки з документа СКІ з планування:
«На льотчика в бою звалюється величезний обсяг інформації, він постійно знаходиться на зв'язку, і на основі цієї інформації повинен приймати рішення, від яких часто залежить його життя. У нього також величезна кількість перемикачів та кнопок на панелях і ручках керування, що вимагає великої чіткості та точності. Кожна з сотень деталей призначена для своїх, цілком певних та важливих цілей, проте в їх основі лежать технології, які набагато випереджають наші вміння грамотно та розумно налагодити взаємодію між цими компонентами та льотчиком».
І ось тут-то Агентство передових оборонних дослідницьких проєктів і вирішило, що йому потрібен свій «Скайнет». Нові особливості бойових дій, пов'язані зі швидким розвитком військових технологій, вимагали чіткої взаємодії машини та людини - це має стати запорукою успіху в бою. Льотчик як і раніше натискав на кнопки, але комп'ютер повинен був думати за нього хоча б наполовину. Якщо людина не встигає, треба підключати до роботи машини.
Програма «помічника льотчика» не висвітлювалася в американській пресі в тому ж обсязі, як автономний наземний транспортний засіб. Напевно, це було пов'язано з тим, що її було набагато важче собі уявити, ніж величезний танк, що їде дорогою без водія. Але якщо подивитися на сьогоднішні технології розпізнавання голосу, то стане ясно, до чого привели всі ці дослідження по «помічнику льотчика».
Невидимий робот-радник
Система бойового управління стала третім практичним втіленням програми СКІ, покликаним довести її доцільність.
Ось що пише про це Роланд в книзі «Strategic Computing»:
«У військово-морському комплексі бойового управління СКІ система зі штучним інтелектом повинна була робити умовиводи про противника та свої війська, про бойовий склад та бойовий порядок з урахуванням факторів невизначеності, виробляти варіанти нанесення ударів, здійснювати імітаційне моделювання з метою оцінки цих варіантів, розробляти оперативні плани, представляти докази та роз'яснення».
Система бойового управління була по суті мозком всієї операції, і з цієї причини її тримали в таємниці, на відміну від ALV. Робот, що їде дорогою без водія, може налякати багатьох. Невидимий робот з невидимим пальцем на ядерній кнопці? Ну, публікувати пресреліз на цю тему навряд чи комусь захочеться.
Система бойового управління проєктувалася як програмний додаток спеціально для ВМС. Автономний наземний транспортний засіб створювався для сухопутних військ, а «помічник льотчика» для ВПС. Але насправді, це була просто ширма для більш універсальної системи. Всі ці технології планувалося використовувати в перспективі там, де в них буде найбільша необхідність. Розроблену для «помічника льотчика» програму розпізнавання голосу планувалося використовувати у всіх видах збройних сил, а не тільки в ВПС. А система бойового управління повинна була підходити всім - крім, звичайно, супротивника.
Зібрати «Скайнет» воєдино
Всі різноманітні компоненти Стратегічною комп'ютерної ініціативи входили до складу великої гіпотетичної системи, яка могла радикально змінити характер війн у XXI столітті.
Уявіть собі глобальну бездротову мережу, яка здійснює контроль над безліччю інших підпорядкованих їй мереж у збройних силах США. Уявіть, як армії роботизованих танків розмовляють з роями безпілотників у небі та субмаринами без екіпажів в море - і взаємодія між ними здійснюється набагато швидше, ніж це міг би зробити будь-який командувач-людина. А тепер уявіть, що все це набагато складніше і з ядерними ракетами, які очікують запуск у космос.
Концепція Стратегічною комп'ютерної ініціативи була неймовірно сміливою, і разом з тим трохи незвичайною, якщо подумати про те, наскільки далеко вона могла нас завести. Логіку подальшого розвитку штучного інтелекту та всесвітньої мережі машин-вбивць нескладно собі уявити хоча б тому, що ми це багато раз бачили в книгах та фільмах.
Майбутнє війни та миру
Стратегічну комп'ютерну ініціативу на початку 90-х остаточно знищило усвідомлення того, що створити потужний штучний інтелект, яким представляло його собі DARPA, просто неможливо. Але якщо всі ці технології та технічні новинки, які розроблялися ще у 1980-х роках здаються нам дивно знайомими, то це через те, що про них говорять та пишуть засоби масової інформації з початку XXI століття.
Система технічного зору з автономного наземного транспортного засобу ALV знайшла своє втілення в роботах Boston Dynamics. Ми бачимо, що система розпізнавання голосу з «помічника льотчика» зараз використовується в смартфонах та персональних комп'ютерах. А система безпілотного водіння встановлена в електромобілях Tesla. Все це - технології війн майбутнього. А якщо вірити Google, то це ще й технології світу майбутнього.
Корпорація Google купила Boston Dynamics, і це викликало велике здивування у тих, кого турбує майбутнє з арміями самостійних роботів. Google заявляє, що Boston Dynamics більше не стане укладати контракти з військовими замовниками.
Але буде чи ні Google приймати замовлення від військових (що цілком можливо, оскільки вони можуть це робити таємно, використовуючи кошти зі свого «чорного» бюджету), немає ніяких сумнівів в тому, що межа між цивільними та військовими технологіями завжди була розмитою. Якщо Boston Dynamics ніколи більше не буде працювати з організаціями типу DARPA, але Google буде отримувати вигоду від досліджень профінансованих військовими, то, мабуть, можна буде сказати, що система працює.
Військові домоглися того, що їм було потрібно, просуваючи дослідження в галузі робототехніки через приватну компанію. А тепер результати цих військових технологій дадуть про себе знати й в нашому повсякденному цивільному житті - як і безлічі інших технологій, включаючи інтернет.
По правді кажучи, в цій статті викладена лише крапля в морі з-поміж тих задумів, які Агентство передових оборонних дослідницьких проєктів виношувала в рамках СКІ. Будемо сподіватися, що продовжуючи вивчати вчорашні перспективні концепції, ми зможемо знайти якийсь історичний досвід і краще зрозуміти, що наші нові досягнення з'явилися не з повітря. Їх навіть і нововведеннями-то не завжди можна назвати. Це результат багаторічних досліджень та мільярдних асигнувань, які освоювали сотні організацій, як державних, так і приватних.
В кінцевому підсумку, Стратегічна комп'ютерна ініціатива була ліквідована не через страх перед тим, що вона може принести нашому світу. Просто технології для її реалізації розвивалися недостатньо швидко - це стосується і штучного інтелекту, і автономних транспортних засобів. Але протягом майже тридцяти років з моменту згортання СКІ, всі ці розробки розумних машин тривали.
Майбутнє з дуже розумними та взаємопов'язаними роботами вже майже настало. Нам не обов'язково його любити, але ми не можемо сказати, що нас ніхто не попереджав про нього.
Оригінал публікації: DARPA Tried to Build Skynet in the 1980s
