Євген Корнієнко
Свідомі машини будуть розвиватися по експоненті, тому що їм не потрібно витрачати час на навчання тому, що вже відомо попереднім поколінням.
Я передбачаю свідоме зброю.
Що станеться, якщо алгоритм штучного розуму стане загальнодоступним? Адже це буде не напівживий комп'ютерний вірус, а добре думаюча бездушна машина. Така машина не може співчувати людині або зрозуміти його почуття, тому що "вищі" почуття (гумор, самотність) походять від самозбереження, яке є ознакою життя, а не розуму.
Штучний інтелект - це не складна і дорога атомна технологія. Це просто програма, яку легко копіювати. Що якщо цей алгоритм не вимагає величезних обчислень? Я підозрюю, що добре організований асоціативний мозок, такий же тямущий, як мозок тварин, може розміститися в настільному комп'ютері.
Кожен тиран і бандит побажає такого спільника.
Розуміння небезпеки штучного розуму недостатньо для запобігання цієї небезпеки, особливо після того, коли ця технологія поступово заполонить весь світ. Війни і самогубства теж небезпечні. Але ми робимо це.
Найбільш реальна надія уникнути небезпечних наслідків нової технології - це сила грошей. Державний бюджет і особистий гаманець можуть подолати можливе військове застосування штучного розуму, так як в мирному житті ця технологія ще потрібніше, ніж в оборонній галузі.
Проблема штучного розуму незабаром буде вирішено. Але до цього неможливо морально підготуватися.
Спочатку ми будемо вчити роботів того, що вважаємо корисним. Потім вони будуть розвиватися по експоненті, тому що їм не потрібно витрачати час на вивчення того, що знають їх предки. Знання будуть накопичуватися не в книгах (і вчителів), а в мізках цих роботів.
Неможливо, щоб робот, який розумніший за мене в 10 разів, був моїм слугою. Швидше ми станемо слугами наступних поколінь роботів, які будуть множити свої знання в 10 разів щорічно.
Пробудження кібер свідомості.
Не викликає особливих заперечень ідея про те, що свідомість розвинулося як засіб адаптації. Тому, винаходячи адаптуються роботів, ми створюємо розумні системи. Спочатку вони виглядають просто як адаптуються програми. Так що навіть найбільш прозорливі з нас не сприймають їх свідомими. Новонароджена дитина теж не здається занадто розумним.
Слово інтелект зараз перетворилося в атрибут реклами. Ми вже готові бачити елементи свідомості в операційній системі. А тварини, вони тільки розумні (раціонально поводяться) або вони відчувають і усвідомлюють себе? Перехід від машино-подібного інтелекту до свідомості відбувається тоді, коли істота виявляє зв'язок між своєю дією і своїм станом. Виникає відчуття. Свідома річ усвідомлює свою поведінку. Вона відрізняє свою поведінку від інших подій. Вона відрізняє себе від інших речей.
Отже, кожна більш-менш складна адаптирующаяся система, яку ми схильні вважати розумною, є свідомою. Розумна річ спочатку веде себе розумно, а свідома річ сама винаходить розумна поведінка - адаптується. А ми суб'єктивно оцінюємо це поведінка. Чи справді воно розумно? Я можу уявити систему, яка добре говорить, але повністю запрограмована. З іншого боку, таке просте істота, як морський заєць - Aplysia, винаходить своє проста поведінка без будь-якого попереднього програмування. Його мозок не знає заздалегідь, в яких умовах доведеться жити. Він має крихітне зерно цього свідомості. Свідомість походить з адаптації, а не зі складності.
Тварини адаптуються до умов свого життя не тому, що вони усвідомлюють "необхідність виживання". Вони дбають про їжу, про уникнення болю. Виживання, народження і смер - це недоступні абстракції. Тарган втікає не тому, що він боїться смерті, а тому, що він передбачає, що буде гірше. Природний відбір, піклуючись про виживання таргана, дав йому здатність передбачення.
Еволюційно мозок покликаний допомагати виживанню виду, а зовсім не думати. Необхідна для виживання передбачення поступово розвинулося в обдумування майбутніх подій і своїх дій. Цей подарунок природи для тих, кому подобається думати, ймовірно, теж допомагає нам виживати. Розуміючи і високо цінуючи цю здатність, ми приступили до розробки машин, які думають і усвідомлюють себе. Я вважаю, що такі машини зажадають набагато менших обчислювальних ресурсів, ніж людський мозок, так як спочатку їм не потрібно буде піклуватися про підтримку свого життя.
Ми розповсюдимо такі машини всюди.
Невірно, що розробник робота точно задає його поведінку. Не кожен захоче і не кожен зможе стежити за подальшою долею свого творіння. Іноді винахідник спеціально відпускає своє створення на волю, наприклад, якщо це комп'ютерний вірус. І взагалі, багато речей, які ми створюємо, ми не можемо повністю контролювати. Наприклад, наших дітей. Штучний розум - це ще один приклад.
Перші ледь розумні речі будуть мати ледве вільну волю. Але ж ми претендуємо на створення справжнього розуму, ні в чому не поступається людському. Тому "просто розумність" - це перший крок до такої мети. Зрештою, завдання створення штучного розуму, що має волю і прагнення, буде вирішена.
Якщо ви дозволите розумну машину приймати рішення, то ви не зможете знати заздалегідь, що це будуть за рішення. Ви також не можете бути впевнені, що ці рішення вас влаштують. Хіба ви завжди задоволені навіть своїми рішеннями? Тому машина зможе здійснити свою волю у відповідності зі своїми судженнями, навіть якщо ви цього не бажаєте.
Штучний відбір роботів.
Для вирощування поколінь розумних машин, що володіють тільки корисними ознаками, можна застосовувати штучний відбір. Такий відбір у вигляді знищення непридатних штучних створінь успішно перевірено, наприклад, при виведенні нових порід собак. Але як ви уявляєте собі знищення істоти, яка розумніше й дошкульніше вас, особливо якщо воно цінує себе і свою свідомість?
Досить розумні роботи зможуть винайти спосіб проходження наших тестів, щоб задовольнити критерії штучного відбору. Якщо розумна істота цінує себе, то воно буде намагатися вижити в селектірующей м'ясорубці, застосовуючи всі засоби і хитрощі. При цьому роботи стануть ще небезпечніше, ніж при досить вільному вихованні.
Я бачу тільки один шлях, що дає надію на безпечне співіснування з роботами. Коли вони досягнуть і перевершать людський рівень інтелекту і проявлять прагнення впливати на суспільні процеси, потрібно дати їм право голосу та право бути обраними. Тоді моральний відбір, який діє в демократичному суспільстві, буде також відбирати та представників штучного покоління відповідно до бажань виборців. Поки цей процес не стане стабільним, я сподіваюся, ми зможемо утримуватися від створення занадто потужних і занадто розумних роботів. Хоча ця надія логічно не обгрунтована.
Зрештою, ніщо живе не буде потрібно новому поколінню синтетичної життя. Дай Бог, якщо ми станемо домашніми вихованцями чи іграшками.
Оригінал статті знаходиться на сайті http://cordially.narod.ru