1. Те, чого не може бути
2. Homo надлюдина
3. комп'ютер sapiens
4. пришестя постлюдини
5. Створено бога

ПОПЕРЕДЖЕННЯ. Те, про що піде мова нижче, - лише футурологічний прогноз, і події майбутнього можуть розвиватися за зовсім іншим сценарієм. У концепції сингулярності, а тим більше у оцінок часу і наслідків цієї події, залишається чимало серйозних супротивників. Однак її можна вважати «мейнстрімом». Таких поглядів дотримуються багато видатні вчені, власники мільярдних корпорацій і творці передових технологій - ті, хто і визначає майбутнє людства, наближаючи сингулярність.

З точки зору «справжніх вчених», з батьками Рею Курцвейл не пощастило: вони були гуманітаріями. Незважаючи на це, в сім'ї стежили за новими науковими теоріями і технологіями, постійно обговорювали їх. Згодом Курцвейл скаже, що ці розмови зробили з нього «збирача врожаю ідей». Одного разу, вже будучи великим розробником штучного інтелекту, він оглянув зібране - і помітив дивну закономірність. Передбачаючи майбутнє, ми спираємося на інтуїтивно зрозуміле нам лінійний розвиток подій. Водяний двигун млини - паровий двигун залізниць - ДВС автомобіля - реактивний літак. З уваги вислизає той факт, що водяні (і вітряні) двигуни залишалися вершиною технологій тисячоліттями, парові - сотнями, ДВС - вже десятками років. Як виявив ще засновник Intel Гордон Мур, щільність транзисторів на чіпі подвоюється кожні 18 місяців. Так виявляються загальні закони розвитку, в якому кожен крок відкриває все більше простору для наступного, дозволяючи рости експоненціально.

Те, чого не може бути

Не те щоб такі ідеї не звучали до Курцвейла, але він зробив їх предметом обговорення. «Неможливо назвати вартість акцій Intel через кілька років, - пояснює футуролог, - зате можна передбачити, скільки буде коштувати мільярд обчислювальних операцій, секвенування тисячі нуклеотидів ДНК, пересилання гігабайта даних». Між винаходом сільського господарства і індустріальною революцією лежать 8000 років. А вже 120 років тому з'явилися лампи розжарювання. Ще через 80 людина відправився в космос. Як і належить експоненційної кривої, вона спрямовується в нескінченність. Конкретний момент, після якого ми вже не зможемо встежити за цим ростом, визначається формою кривої, а вона - вибором подій минулого, на основі яких ми її будуємо. Тому різні експерти дають різні оцінки, в межах від 5 до 100 років. Курцвейл називає 2045 рік, а його старший соратник, математик і фантаст Вернор Виндж - «перед 2030 м». Якщо усереднити цифри, можна чекати, що близько 2040 року на нас чекає щось неймовірне.

Технологічна сингулярність Курцвейла заснована на проривах в трьох областях: GNR - генетика, нанотехнології і робототехніка. «GNR дозволять перемогти найдавніші проблеми, бідність і хвороби, але вони ж дадуть шанс новим деструктивним тенденціям, - говорить Курцвейл. - У нас немає іншого вибору, крім як піклуватися про самозахист і застосовувати ці технології на благо людства. Незважаючи на відсутність згоди про те, в чому це благо полягає ».

Сингулярність - це таке слово, яке вчені використовують замість «дао» - щось, для опису чого не існує слів, теорій і формул. З чого почався Великий вибух? З сингулярності. Що буде, коли технології увійдуть в безперервний цикл вдосконалення? Сингулярність. Що тоді буде з нами? Сингулярність ... Але чим би вона не виявилася, нам з вами місця там може не знайтися.

Вважається, що головною ознакою настання технологічної сингулярності стане поява «постлюдини» - істоти, що володіє неймовірними технологіями і володіє неможливими для нас фізичними і розумовими здібностями. У постлюдей можемо перетворитися ми, наші нащадки, які оволодіють своєю біологічною природою, нашпигують тіла електронікою і наномашинами, стануть майже безсмертними. Але в останні роки нас обходить сильний конкурент, який претендує на ту ж роль, - штучний інтелект (ШІ), для якого люди можуть стати лише прикрою перешкодою на шляху до остаточної ефективності.

Валерія Удалова, одна з творців Російського трансгуманістіческого руху, каже: «Імовірність негативного сценарію сингулярності дуже висока. Настільки, що перед її обличчям нам залишається зціпити зуби і поспішати вперед, до того, щоб самим стати постлюдьмі і врятувати людство від недружнього ІІ. На щастя, сильний ІІ - здатний усвідомлювати своє існування - розвивається не так швидко, як «звичайний» слабкий, який використовується сьогодні. Так що шанси у нас є ».

Homo надлюдина

Завдяки розвитку медицини очікувана тривалість життя росте вже два століття. Для народжених в 1955 році вона становила лише 48 років, а до 1995 року досягла 65. За даними ВООЗ, середня очікувана тривалість життя у народжених в 2015 році становить 71,4 року - більше, ніж будь-коли в історії людства. Мільйони людей, що з'явилися на світ на початку XXI століття, доживуть до наступного століття. На думку Курцвейла, це буде вже не знайоме нам по попереднім епохам людство. Глибоке розуміння роботи геному дозволить позбутися від спадкових хвороб, лікувати діабет і рак, старечу деменцію. Медицина стане персоналізованої: ліки будуть призначатися і синтезуватися з урахуванням індивідуальних особливостей організму кожного хворого. Нанороботи стануть боротися з інфекціями і пухлинами, підтримуючи і посилюючи імунітет.

Деякі футурологи прогнозують відтворення нейронної структури мозку в комп'ютері і подальшу «завантаження» в неї людської свідомості. Інші захищають протилежний шлях - вдосконалення організму, інтеграцію в нього електроніки. Якщо подумати, ми йдемо обома шляхами відразу. З одного боку, наші образи в соцмережах - вже щось на зразок зачатка нової особистості зі своєю історією життя в мережевому «хмарі». З іншого, ще більш реальними прообразами майбутнього «постлюдини» служать контактні лінзи, штучні водії серцевого ритму, керовані командами мозку протези. Втім, ключовий здатністю людей майбутнього повинен стати «посилений інтелект» (IA, Intelligence Amplificated), багаторазово перевершує наш. До цього на зустрічі Code Conference 2016 закликав глава компаній Tesla і SpaceX Ілон Маск. «Думаю, одним з рішень стане додавання в мозок нового шару ІІ, - сказав він, - який буде працювати в симбіозі з іншими частинами тіла». Маск бачить в цьому єдиний шанс наздогнати стрімкої еволюцією штучного інтелекту і не виявитися чимось на зразок домашніх тварин у нового господаря планети - електронного постлюдини.

комп'ютер sapiens

Порівняти продуктивність нервової системи і комп'ютера найпростіше по їх «обчислювальним можливостям». Ще в кінці 1980-х таку оцінку дав Ханс Моравек, прийшовши до висновку, що в 2010-му з'явиться електронна система, яка дорівнює людському мозку. Як ми знаємо, він поквапився - але навряд чи помилився більше ніж на десятиліття. Навіть смартфони сьогодні вже мають обчислювальною потужністю десь в проміжку між нервовими системами комахи і миші. Звичайно, мозок важко назвати «обчислює» системою на зразок калькулятора. Він не дуже пристосований для складання або виділення квадратного кореня. Його коник - здатність оперувати абстрактними концепціями і вибудовувати складні асоціації. Але комп'ютера під силу і це: ІІ організований, по суті, так само, як і нейронні мережі людського мозку. Перші шари «нейронів» ІІ виокремлює характеристики вхідного сигналу, такі їх аналізують і комбінують для отримання висновків. Як і в мозку, гнучкість зв'язків між шарами ІІ дозволяє системі навчатися і вдосконалюватися.

При цьому ІІ не пов'язаний черепашачим кроком біологічної еволюції і розвивається в мільйони разів швидше. Вже сьогодні він виконує багато складні завдання ефективніше людини. Він не втомлюється і не хворіє, не старіє і вдосконалюється безперервно, він не знає обмежень людської моралі. Так що на питання, чи будуть комп'ютери розумніші за нас, можна відповісти: будуть, але недовго. Незабаром ми напевно станемо тягарем для машин, здатних самостійно пізнавати світ, вчитися і поліпшуватися.

Перші попередження вже прозвучали. Не так давно онлайн-гра Elite Dangerous отримала оновлення, яке ускладнювало життя гравцям, дозволяючи ІІ створювати власну зброю і устаткування. Незабаром він скомбінував різні типи бойових знарядь, створивши «суперпушку», і почав кришити ворогів-людей в таких кількостях, що розробникам довелося заблокувати оновлення. На щастя, поки мова йшла тільки про гру, хоча вже сьогодні ІІ використовується значно ширший.

Керівник напряму «інтернет речей» російського відділення Huawei Марат Нурієв вважає одним з ключових напрямків розвитку інформаційних технологій зростання «інтелектуальності» оточення людини і впровадження ІІ в повсякденне життя. «Завдяки цьому неживі предмети отримають індивідуальне підключення до Мережі і зможуть« спілкуватися »між собою без участі людини. Подібні системи вже впроваджуються у вигляді рішень для «Розумного будинку», «Розумного міста» і т. П. - каже він. - Однак і це не межа: слідом за «інтернетом речей» очікується поява «інтернету думаючих машин», коли інтелектуальні, автономні предмети стануть підлаштовуватися під наші звички і особливості поведінки ».

«Вже сьогодні медицина - точніше кажучи, молекулярна і генетична інформація - стає одним з головних і швидкозростаючих джерел« великих даних »в світі. У найближчому майбутньому геномика буде виробляти кілька зеттабайт даних щорічно ». Глава центру досліджень і розробок ЕМС в Сколково Леонід Левкович-Маслюк.

пришестя постлюдини

Уже зараз ІІ оточує нас всюди. Його елементи реалізовані в випадають підказках, які видає інтернет-пошуковик, і в радах по покупкам в онлайн-магазинах. Вони використовуються для регулювання повітряного руху і біржової торгівлі. Агентство Associated Press користується ІІ для написання корпоративних новин. Машина ROSS замінює кількох адвокатів в американській конторі Baker & Hostetler. Континент завдань, які були прерогативою людини, стрімко поглинає океан ІІ. У 2016 році цей приплив здається безупинною, як цунамі. У березні він прорвав ще одну греблю, вигравши матч у одного з найсильніших в світі майстрів го.

До сих пір ця древня гра вважалася непорушним бастіоном людського мислення. Адже кожен хід в ній може бути зроблений в будь-перехрестя сітки з 19 х 19 ліній, і мінімальна кількість неповторюваних партій в го оцінюється в запаморочливу величину 10360. Ці числа непідвладні ні комп'ютерного перебору, ні засобам його оптимізації - таким, як метод Монте-Карло , який колись допоміг комп'ютера Deep Blue перемогти Гаррі Каспарова. Але тим болючіше виявився програш: комп'ютер буквально розгромив володаря вищих титулів го Лі Седоля, домінуючи на поле в чотирьох партіях з п'яти.

Самонавчальний ІІ AlphaGo, озброєний методом Монте-Карло і потужними обчислювальними ресурсами, став вінцем жорстокої еволюції. Розробники змусили його грати з самим собою, і в мільйонах партій лише ІІ-переможці переходили в наступне покоління, поки не вийшла система, здатна ефективно передбачати задум противника і без жалю розправлятися з ним. За словами керівника служби комп'ютерного зору і технологій ІІ «Яндекса» Олександра Крайнова, для фахівців перемога AlphaGo несподіванкою не стала.

«Не так давно відбулося куди більш значна подія: перемога нейронних мереж в ImageNet Large Scale Visual Recognition Challenge, - продовжує Олександр. - У 2012-му вони показали рівень помилок всього 16%. Це дійсно був прорив, що визначили розвиток ІІ на наступні роки, і сьогодні нейронні мережі часто розпізнають зображення краще людини ». Що залишиться людям в світі, де електроніка мислить краще нас і здатна сама вирішувати всі наші проблеми? Чи станемо ми повільно сходити з розуму і деградувати від неможливості докласти до чогось свої зусилля? Або поголовно займемося творчістю? Короткометражка «Сонячна весна», сценарій якої написала система Benjamin, була тепло зустрінута і критиками, і глядачами, змусивши сумніватися, що і творчість не відберуть у нас комп'ютери.

Створено бога

Ситуація навколо ІІ нагадує історію з глобальним потеплінням. Кліматологи десятиліттями лякали людство небезпечними процесами, які починаються на планеті, але тільки сьогодні, бачачи, що відбувається своїми очима, ми готові погодитися з ними. Те ж відбувається з ІІ: «Люди, чий розвиток обмежена темпами біологічної еволюції, виявляться нездатні конкурувати з подібною системою», - попереджає фізик Стівен Хокінг. Але ми не слухаємо.

Взагалі, що б ми не розуміли під словом «думати», робимо ми це не дуже добре. Здатність складним чином обробляти сенсорну інформацію, виділяти абстрактні поняття, пов'язувати їх і робити обґрунтовані висновки, - порівняно недавнє придбання живої матерії. Тонка еволюційна надбудова над механізмами руху, травлення або імунітету, які опрацьовувалися мільярди років. А ось ІІ створений тільки для того, щоб думати. На цьому завданні він повністю зосереджує обчислювальні ресурси, еволюціонує і навчається на порядки швидше нас. Коли його «розум» стане більше спільного «розуму людства», він може вважати нас атавізмом, перепоною на своєму шляху до вічного пізнання Всесвіту.

Недарма вже після перемоги AlphaGo вчені з Оксфордського університету та лабораторії Google DeepMind повідомили про початок робіт над системою аварійного вимкнення для ІІ - універсальної «червоною кнопкою», натиснувши яку він не зможе ні ігнорувати, ні обійти. Розробники з Технологічного інституту Джорджії створюють програму «Кіхот», яка б навчала ІІ основам людської моралі, викладеної в дитячих казках.

Але поки одні готуються до бідам насувається сингулярності, інші раді вітати її, як настання нової світлої ери, вважаючи, що вона піде нам тільки на користь. «Будь-яка розвинена технологія відрізнити від магії», і послідовники «сінгулярітаріанізма» вірять, що сильний ІІ буде проявлятися як дію надлюдською волі, здатної виконувати і передбачати наші бажання. Справді, за зауваженням Курцвейла, одним з можливих результатів технологічної сингулярності може стати «народження божества». Ну а якщо ми хочемо, щоб воно виявилося доброзичливим і виконувало людські примхи, у нас ще є час попрацювати - або помолитися.

Стаття «Неймовірна. Як вижити в технологічній сингулярності »опублікована в журналі« Популярна механіка »( №8, серпень 2016 ).