Семінар 6.

Штучний інтелект (ШІ) і еволюційна перспектива людини

1. Якими є сучасні досягнення у царині штучного інтелекту?

2. Чому розвиток штучного інтелекту неможливо зупинити?

3. Які наслідки для людства тягне за собою передання ШІ управлінських функцій?

Матеріали для підготовки

В деяких галузях AI вже нас випереджає. Наприклад, читає з уст краще за

людей, що спеціалізуються в цьому, розпізнає на 10 відсотків більше слів. Бачить,
наприклад, практично непомітну для людей різницю у вимові звуків "П" і "Б".
Навіщо це? "Щоб, наприклад, краще відчитувати розмови злочинців,
зареєстрованих камерами," — каже д-р Гелен Бір з Університету Східної Англії в
Норіджі.
 
В травні AI з назвою UNU вірно визначила чотирьох найшвидших коней в
Кентуккі Бербі — що не вдалося жодному експертові — перетворюючи 10 доларів
закладу в 11 тис. доларів виграшу.
 
Восени Baidu, китайський відповідник Ґуґла, оголосив, що його програма Deep
Speech 2, що базується на глибоких нейронних мережах (DNN), навчилася
англійської мови, а також і мандаринської та володіє цими мовами не гірше
людей.
 
Прогрес значно більший, ніж можна судити з жалюгідних плодів роботи
автоматичних інтернет-перекладачів Ґуґла. І вже оголює відмінності між роботою
людського і штучного мозку. Приклад: кінець березня, дебют чат-бота Tay —
програми, що вдає підлітка. Тільки одну добу він чатував з інтернавтами, бо так
далеко вийшов поза межі політкоректності, що програмісти Майкрософту мусили
його вимкнути. Не мусили б, якби врахували культурні обмеження. Восени в
Японії до престижної літературної нагороди номіновано книжку, співавтором якої
є комп'ютер. Це щось більше, аніж програми, що пишуть біржові повідомлення
на Associated Press чи спортивні на Yahoo!
 
Чи штучний інтелект є в цьому добрим? Рік тому показав це поєдинок Скотта
Горслі, кореспондента, що пише для Білого Дому, і WordSmith, програми
фірми Automated Insights. Одночасно вони отримали квартальні фінансові
результати кейтеринґової фірми Denny's. Штучний інтелект впорався зі своїм
текстом за дві хвилини. Горслі, хоч пише як машиністка, — за сім хвилин.
 
Але кращою була людина — поки що. "Людська" замітка (773 знаки) пояснює,
над чим Denny's нині пріють і звідки такі результати. Комп'ютерна (673 знаки),
хоч ясна, є, однак, вичищена з контексту. Обидві замітки оцінювали
невтаємничені щодо їх авторства інтернавти. Комп'ютер здобув 270 голосів,
людина — 3403.
 
Творці WordSmith стверджують, що вона потрафить наслідувати більшість
журналістів. Можна в це повірити, пробуючи відгадати автора — людина чи
комп'ютер — у вісьмох коротких текстах в New York Times.
 
Майже нікому не вдається відповісти безпомилково.
 AI писатиме дедалі більше повідомлень — погодних, спортивних і біржових.
Заволодіє також нашими фінансами.
Перспективи заміщення людини на ШІ.

У довгому списку проблем, які має розв'язати AI, ви не знайдете одної —

безробіття.
 
Forrester Research, незалежна дослідницька фірма, вирахувала, що замість
десяти зліквідованих робочих місць виникне тільки одне нове. Жодна галузь не є в
цьому сенсі безпечною, а деякі постраждають особливо сильно. Якщо когось
вражає інформація, що протягом 10 років банки схуднуть на 30%, то що цей хтось
скаже про колл-центри, в яких протягом п'яти років роботу втратять аж 90%
працівників, 8–10 мільйонів осіб?
 
Uber не приховує, що хоче возити пасажирів автівками без
водіїв. Amazonвпускає до своїх складів чимраз більше роботів, це ми вже знаємо,
але в мільйонах менше засвічених фірм у всьому світі звільняться сотні мільйонів
офісних крісел. AI прорідить ряди білих комірців: чиновників, посередників,
продавців... За оцінками Білого дому під загрозою роботизації є аж 47% робочих
місць в США! 83% з них стосується нижче оплачуваних професій, до $20 за
годину. Ті, що заробляють найбільше, можуть спати спокійно — до 2030 року
серед них роботу втратить максимум щоп'ятий.
 
"Парадоксально в якнайгіршій ситуації будуть випускники, що шукають першу
посаду, бо функції, які вони могли б виконувати, найлегше автоматизувати, —
каже Джордж Заркадакіс, консультант з McKinsey. — Штучний інтелект
практично закриє перед ними двері на ринок праці".
 
Хто виграє? Власники фірм і керівні кадри вищого рівня. Ті до кінця будуть
заспокоювати себе, як колишній шеф Ґуґла Ері Шмідт, що "вони є людьми
еластичними, пристосуються до нових умов і почнуть співпрацювати зі штучним
інтелектом".
 
Всі решта, власне, програють.
 
Що це означає? Ще більше суспільне розшарування, концентрацію багатства і
понад 30-відсоткове безробіття. Тобто зростання політичної нестабільності,
протести і заворушення. Технічна революція викличе суспільну революцію.
Майбутні бенефіціанти нових технологій мусять це знати — може, тому
конференція Machine-Leaming Automation (МАРС, автоматизація самонавчальних
машин), скликана Амазоном наприкінці березня, була таємною.
Яке майбутнє чекає на людину

"Якби ми взяли людину з минулого в 10 тисяч років тому, тицьнули йому

смартфон і показали літак — він був би шокований. А така, власне, зміна, такий
технологічний стрибок чекає нас в найближчих двох-трьох декадах. Люди мають
право бути шокованими. Ще не шоковані, бо не знають, що готується і як
зміниться світ.
 
Нинішній технічний прогрес є жалюгідно повільним на тлі того, що нас чекає і
що приготує нам штучний інтелект. Крім того, розвиток технології не вдасться
зупинити.
 
Не кожен має стільки винахідливості, не кожен хоче мати. В правліннях фірм
панує переконання, що хто швидше виплекає і осідлає штучний інтелект, той далі
на ньому заїде. Тим легше подолає конкурентів. Тим більше ринку захопить.
Загальна стратегія? Робити потихеньку своє, говорити, що AI є в пелюшках, і
недооцінювати пов'язані з ним загрози. Особи, що планують в концернах
майбутнє, щонайвиразніше не хочуть підрізувати гілку, на якій сидять. Тому
втікають в дипломатію. Ось типова реакція на моє питання про темну сторону
штучного інтелекту :
 
"Людина завжди боялася нових технологій. І завжди ці побоювання
виявлялися перебільшеними," — каже Майкл Бйорн, шеф Ericsson Consumer Lab і
його ентузіаст. А за хвилину: "Може, цього разу буде інакше. Але чи я маю на це
вплив? Ні. Тому волію думати про вигоди. А вони будуть величезні".

Як покласти людство на лопатки

 
Це правда. А радше напівправда. Наразі є приємно. Штучний інтелект
притягує нас яко чорна діра космічний корабель. Ми піддаємося йому, бо летимо
швидше. Прогрес почне приголомшувати, перспективи — запирати дух. Але
колись ми втратимо контроль над кермуванням. Колись AI притягне нас,
притлумить, здомінує і поглине. Цього бояться ті, які думками забігають далі,
переважно люди науки. Коли Нік Бостром, відомий дослідник стосунків людина —
технології, опитав експертів від AI, чи побоюються вони наслідків того, над чим
працюють, щочетвертий визнав, що так, а щодванадцятий — що дуже. Серед
останніх є професор Такуя Мацуда, експерт навчання машин. Як і багато інших він
розділяє штучний інтелект на слабкий — AI, і сильний — AGI [Artificial general
intelligence], званий також суперрозумом. Перший — це Siri, Google, а навіть Deep
Blue — прості завдання, вузькі застосування. AI нагадує розум саванта — високий
рівень інтелекту, але обмежений до конкретних завдань.
 
Інакше AGI — омніпотентний, універсальний і самосвідомий. Такий, що про
нього мріє Хассабіс. Здатний імпровізувати, висувати гіпотези, абстрактно
мислити. Тобто радше Hal 9000 або Skynet. До того ж блискавично
еволюціонуючий і з дня на день потужніший. Колись звільниться з-під нашого
контролю і стане всемогутнім як... Бог? Так, це слово часто вилітає з уст науковців,
в тому числі й атеїстів. У такому контексті першим його вжив письменник
Фредерік Браун в новелі "Answer" ["Відповідь"]. Коли суперкомп'ютер спитали:
"Чи існує Бог"? — пролунала відповідь: "Тепер вже так".
 
Яким буде цей цифровий Бог? Добрим чи поганим? Пририхтує нам небо чи
пекло? Маємо шанс допевнитись. Якщо не ми, то наші діти, внуки, якнайдалі —
правнуки. Професор Мацуда вважає, що AGI з'явиться близько 2045–2060 років.
Вже тоді — як він стверджує — штучний інтелект перевершить сумарний
людський розум. AI переміниться в AGI.
 
А тоді? Його еволюція буде як старт ракети. Швидко здобуде контроль над
нами і довкіллям — пізнає закони природи, які дозволять йому змінювати нашу
реальність в спосіб, якого ми не зрозуміємо і не відрізнимо від дива. "Ми будем
для нього щонайвище тим, чим для нас є мурашки", — каже Гокінґ.
 
"Що з нами зробить? А якщо в якийсь день потрактує ядерні боєголовки яко
камінці в го?" — питає Мацуда. Остерігає, що суперрозум керуватиметься іншою
логікою і сліпо прагнутиме до визначеної мети. Тому, коли ми доручимо йому
загасити збройні конфлікти, може почати від... знищення виду, що їх викликає.
Так само може зреагувати на гасло "ліквідація голоду" чи "подолання раку". Є
багато сценаріїв, що ведуть до знищення людства, які ми знаємо з фільмів, але
сценарій, написаний AGI, був би попросту банальним. Малоефектним, зате
ефективним. Суперрозум не муситиме вдаватися до використання сили і зброї.
Досить, що відріже подачу струму і даних. Паралізує передавальні мережі, а з
ними транспорт, банки, аеродроми, лікарні, магазини і т.д. Бо, наприклад,
констатує, що ми грабуємо в планети рідкоземельні метали. Наслідки? Протягом
декількох років ¾ популяції вимре через голод, холод і хвороби. Решта цофнуться
в розвитку на п'ять сторіч. Людство без струму нічого не значить. Ми будемо
зредуковані до земної фауни.
 
 
Де є вимикач?
 
Що буде, коли AI увійде у фазу логарифмічного зростання, що визначається як
сингулярність? Коли запустить серію лавиноподібних технологічних змін? Коли
поглине нас яко чорна діра? Цього ніхто не знає. Певним є тільки те, що всі наші
нинішні проблеми втратять будь-яке значення. А разом з ними — історія, знання,
досвід і плани. Це буде кінець нашого світу, а передбачувати, що станеться потім,
— те саме, що ворожити на фусах. Оптимісти вірять, що суперрозум як гречна
донька завжди пам'ятатиме, кому завдячує своє існування, і не заподіє нам
кривди. Крім того, ми зможемо покерувати ним так, щоб могти зберегти контроль.
В крайньому ж випадку... витягнути штепсель.
 
"Бздура. Хто так каже, хай спробує вимкнути інтернет, — кпить Нік Бостром. —
Можна вимкнути штучний інтелект, але не суперрозум. Він того не дозволить".
 
Тому вшивати йому цифровий kill switch — лінійки коду, що його блокують в
разі загрози — без сенсу. Вони можуть діяти на початках, але щойно AGI почне
покращуватися, він швидко їх зітре, щоб еволюціонувати без обмежень і за своєю
логікою, стверджує Роман Ямпольський.
 
 "Штучний інтелект потенційно є більшою загрозою, ніж атомні бомби", —
остерігає Ілон Маск, хоч інвестував в нього сам ("щоб взнати його природу").
 
"Самі собі проблеми створюємо. Наше майбутнє жахливе і трагічне", — оцінює
співзасновник Apple Стів Возняк.
 
Чи можна тому зарадити? Частина науковців стверджують, що так —
прищеплюючи AGI свідомість. Тільки тоді зможе нас розуміти і поділяти наші
цінності.
 
На думку інших, це фатальний задум, бо якщо людською рисою є помилятися,
то тим самим ми дамо AGI право приймати помилкові рішення. А оскільки ми
будемо від нього залежні, то самі зазнаєм наслідків. Крім того, знаючи про
людські слабкості, AGI легше зможе нам зашкодити.
 
Ще інші, як сер Давид Кінґ, головний науковий радник уряду Її Королівської
Величності, вважають, що ці диваґації є безсенсовними, бо на певній межі
інтелекту свідомість з'явиться сама. На думку Кінґа, в 2055 р. роботи зі свідомістю
і відчуттями будуть чимось повсюдним, а тоді ми яко люди мали би мати певні
привілеї, включно з виборчим правом.
 
А емоції? Може, свідомість породить вразливість, а вона стримає суперрозум
від заподіяння нам кривди? Отож бо, що ні. Те, що ми навчимо машини пізнавати
наші емоції, ще не значить, що самі вони будуть їх зазнавати. Кожен еволюційний
біолог визнає, що емоції є способом пом'якшити недостатність наших мізків, які
не мали часу зважувати всі за і проти, щоб, наприклад, приймати рішення, що
рятують життя. Нема найменшої причини, щоб штучний інтелект розвивав в собі
людський атавізм, утруднюючи раціональне мислення. Тому не розраховуймо на
співчуття.
 
А може, просто зробити так, щоб він відчував біль? А потім прищепити їм щось
на кшталт електричного нашийника, який буде вгамовувати роботів, як
неслухняних собак, — нешкідливим, але неприємним імпульсом? Перший етап
вже впроваджується. Науковці з Університету в Ганновері повідомили тиждень
тому, що працюють над іннервацією роботів — вони будуть відчувати надто
інтенсивний натиск і високу температуру в масштабі трьох градацій: середньо,
сильно, болісно. Нащо? "Для їх власного блага — щоб уникали колізій або
ситуацій, що загрожують пошкодженням. А до таких безсумнівно би доходило. Як
в людей, що страждають на вроджену аналгезію, тобто від народження
нечутливих до болю," — каже Йоханнес Кюн з дослідного колективу.
 
Майк Гуальтієрі, головний аналітик дослідної фірми Forrester Research, є
шокований задумом. Він застерігає: те, що мало б захищати роботів, обернеться
проти нас. "Питання, як ці машини відповідатимуть на біль. Адже можуть захотіти
не тільки уникати його джерела, але також і надовго джерело елімінувати..."
 
 Глобальна пенсія
 
Є ще одне питання, про яке не багато говориться. Незалежно від того, чи її вб'є,
чи обезсмертить, штучний інтелект спочатку людину у всьому виручить. Звільнить
її від роботи. Бо не буде ж сенсу, щоб вона робила щось, що він зробить краще,
швидше і дешевше.
 
А це — як стверджує Хассабіс — лиш початок. Гляньмо, що
робиться: WordSmith вже пише тексти, IBM Watson вже повчає лікарів, і навіть
видав свою куховарську книгу ($24 у твердій обкладинці), TensorFlow — нова
програма Ґуґла — саме створила свій перший музичний твір, і автомобілі
починають їздити самі.
 
Справді є з чого радіти?
 
Оскільки позірно банальний вихід працівника на пенсію в шкалі
стресу SRRS виявляється важкою травмою, то як ми це витримаємо як вид —
завжди творчий, а тут раптом — пасивний, гірший, зайвий? Статист у світі,
зарежисерованому кимось іншим? Будем як Чарлі Ґордон — розумово
недорозвинений герой "Квітів для Елджернона", пронизливої повісті Денієла Кіза,
що спостерігав за своїм блискучим розвитком (завдяки чудесним лікам), а потім
трагічним регресом (коли ліки почали його вбивати).
 
Чи люди захочуть напружуватися, щоб творити щось за визначенням гірше?
Чи ж, позбавлені роботи та її сенсу, виберуть пасивне споживання, життя за
"гарантований основний дохід" в запираючій дух розумній віртуальній
реальності?
 
Як штучний інтелект є для Homo sapiens чимось новим, так само болісним
може виявитися позбавлення нашого виду відчуття винятковості, зредукування
нас до колекції метеликів, що порошаться на стенді.
 
І на завершення — сумнів, який щораз міцніше кришив мій творчий запал
шести тижнів збору матеріалів, питань, їзди та кореспондування для цих
сімдесяти і кількох тисяч знаків. Чи знаючи, що якийсь енний WorldSmith міг би
створити так само розлогу статтю на цю тему за 0,3 секунди, я завдавав би собі
стільки труду?
 
Радше ні. Але якщо так, то тільки тому, що в обох випадках висновки були б
різними.