(Іноді "переконливий доказ" не поступається логічного)
Євген Корнієнко
Можна симулювати дурість, але не живий розум. Не народився ще такий програміст, який міг передбачити всі майбутні ситуації в житті цього робота.
Уявіть собі, що в магазині продається домашній робот-слуга, в інструкції до якого сказано, що він володіє свідомістю, тобто в нього є відчуття і емоції. Як ви зможете це перевірити?
Я говорю не про інтелект, не про здатність до розумного поведінки, а тільки про перші ознаки свідомості - суб'єктивних відчуттях. Робот цілком може правильно (розумно) підмітати підлогу і мити посуд і при цьому не відчувати жодних відчуттів.
Перевірку наявності свідомості непогано почати з конструктивного визначення свідомості. Тут і виявляється незвідність матеріальних і ідеальних процесів. Об'єктивне визначення свідомості неможливо, так як персональні простору суб'єктивного досвіду не пов'язані суб'єктивними (ідеальними) каналами зв'язку. Вони пов'язані через матеріальні канали, в результаті чого "чуже відчуття не відчуєш."
Тому замість об'єктивного визначення, зводиться до несуперечливим вимірам, доводиться вводити суб'єктивне, логічно не суворе визначення, коректність якого неможливо перевірити прямими фізичними вимірами. У кращому випадку можливі непрямі виміри, що підтверджують вельми правдоподібні (але не мають строгого логічного обгрунтування) зв'язку між ідеальними і фізичними явищами. Такі визначення та тести (правила вимірів) для перевірки наявності свідомості є на моєму сайті.
Доказ наявності свідомості, отримане таким чином, є не логічним, а переконливим. Це не тільки "виверт" від суворого докази, але також і натяк на те, що перш, ніж проводити передбачені тестом випробування, треба переконати того, хто буде перевіряти результати тесту, у тому, що певні результати тесту свідчать про наявність свідомості у об'єкта, що перевіряється .
Як же в цьому можна переконати, якщо заздалегідь відомо, що неможливо логічний доказ зв'язку між фізичними вимірами (спостереженнями) і наявністю відчуттів. Для такого доказу застосовується переконливе міркування, яке звернене як до розуму, так і до почуттів.
Не потрібно великих зусиль, щоб "переконати" недостатньо освіченої людини. Відомо, що багато випробовувані приймали діалог з "Елізою" за діалог з розумним комп'ютером. Багато хто готовий повірити, що Deep Blue мав мету обіграти Каспарова. Один з учасників comp.ai.philosophy цілком серйозно робив висновок, що скорпіонові боляче на підставі того, що скорпіон "намагався сам себе вжалити", коли його заливали воском.
У нашому випадку доказ має бути переконливим для освіченого і скептично налаштованого експерта. Побудувати такий доказ не просто. І навіть якщо це вийде, воно залишається логічно не строгим. Аксіоми формальної логіки теж обгрунтовані лише життєвим досвідом і здоровим глуздом.
Багато речей, в яких ми не сумніваємося, не можуть бути строго доведені. Наприклад, ви впевнені, що Сонце зійде завтра також, як це відбувається мільйони років. Як доказ ви могли б призвести наукові знання про будову сонячної системи і про закони механіки. Але,
1) Люди були не менш, ніж ви впевнені в цьому факті задовго до появи поняття "сонячна система".
2) Закони механіки - це індуктивне узагальнення деяких спостережень.
Формулювання законів природи - це не строго логічні висновки із спостережень. Це аксіоматичні твердження про найбільш загальні закономірності природи та логічні висновки із цих тверджень. Якби Сонце завтра не зійшло, то цей несподіваний факт був би сильнішим, ніж наші теорії. Він змусив би нас шукати нове пояснення.
Повернемося до робота-слуги. Можливо, що живе спілкування з цим роботом допоможе вам з'ясувати, хто перед вами -
Відчуває суб'єкт або бездушна машина?
Під враженням цієї складної проблеми, ви купуєте собі "робота-слугу" не стільки для того, щоб він допоміг вам по господарству, а для того, щоб з'ясувати чи дійсно він володіє свідомістю.
У міру запуску різних вузлів і установки потрібних програм, робот оживає. Спочатку він виглядає як досить незграбна машина, але поступово показує деякі здібності в прибиранні будинку. Він знайомиться з вами і з вашою родиною. Починає брати участь у вашій звичайному житті. Іноді дивиться разом з вами новини по телевізору.
Нарешті ваше знайомство стає досить неформальним, і ви задаєте йому пряме запитання про його свідомості. Він стверджує, що він бачить як ви, відчуває біль, має бажання, любить природу. Виявилося, що його цікавить не тільки прибирання вдома, і з ним можна поговорити. Ви вирішуєте більше спілкуватися з цим роботом, щоб з'ясувати, справді наука створила відчуваюче штучне істота, або це просто майстерно зроблений механізм.
Ви не знаєте, як насправді влаштований цей робот. Він теж цим цікавиться. Але вам не вдається заглянути всередину, так як ваш друг робот говорить, що йому боляче.
Незабаром ви стаєте щирими друзями. Обговорюєте філософські проблеми і політичні новини, ходіть на риболовлю і граєте в шахи зі змінним успіхом.
Настав момент, коли ви розумієте, що ваш друг не імітує розум. Можна симулювати дурість, але не живий розум.
Ви розумієте, що ви інтелектуально рівні, що не народився ще такий програміст, який міг передбачити всі майбутні ситуації в житті цього робота. У новій і важкою обстановки робот іноді знаходить несподівано вдалі нові рішення. Ви вже добре розумієте його, бачите, що йому приємно, чого він уникає. У нього є свої бажання, потреби та інтереси. Тепер ви переконані, що бездушна машина була б нездатна на таку дружню прихильність.
Після десяти років цієї незвичайної дружби ви випадково знаходите на спині вашого друга маленьку етикетку "Windows compatible". І ви розумієте, що треба розвідати істину десь в імперії Microsoft. Там ви знаходите лабораторію штучного інтелекту, де вам пояснюють, що комп'ютер не може володіти почуттями і свідомістю, проблема свідомості ще не вирішена, і вони всі десять років управляли вашим другом-роботом по радіо.
Що робити? Виявляється ви витрачали свої щирі почуття на "дружбу" з "механізмом"? Ви відмовляєтеся повірити, що це шматок заліза, а не розумна істота!
Ви розповідаєте всю правду вашому другу роботу. Він теж вважає, що його обдурили, раз його волею управляли якісь невідомі люди. У розпачі він бажає покінчити з собою і розрізає собі живіт. Ви бачите коліщатка, трубки, проводки, мікросхеми. Про що це говорить?
А може, мікрософтовськими програмісти над вами посміялися? І ваш друг насправді думав, відчував і любив вас без будь-якого стороннього управління.
Оригінал статті знаходиться на сайті http://cordially.narod.ru