Євген Корнієнко
Сприймається суб'єктом внутрішній стан, не виражається через властивості матеріальних об'єктів, і є "ідеальне" відчуття.
В якому сенсі відчуття виникають?
Вони виникають з нічого, або існує якесь первинне відчуття?
Нехай побудована універсальна самонавчається машина до приписаної цільовою функцією. Нехай вона ще нічому не навчилася, абсолютно нічого не знає і не вміє. Вона тільки що включена, і ми припускаємо, що вона поки не має суб'єктивних відчуттів і переживань, як і будь-яка інша машина.
Що це за міфічна машина? Чи не можна використовувати для міркувань менш умоглядний "відчуває об'єкт", наприклад, добре знайомого нам "людини"?
Людина поступається машині в тому, що ми не знаємо точно, як він улаштований. Перші відчуття з'являються у людини, коли він активно розвивається. Формування його органів знаходиться в динаміці. Ці складності можна обійти, якщо використовувати заздалегідь виготовлення машин, яку просто включають, щоб, простеживши за розвитком її досвіду, зробити висновки про її сприйнятті світу і себе. На прикладі самонавчальної машини, хоча б і вигаданою, але володіє відтворюваної конструкцією, можна спробувати прослідкувати походження свідомості з нуля.
Машина поки не знає, як вона влаштована. Вона може щось дізнатися тільки на власному досвіді, якого на початку ще немає. Ми знаємо, як влаштовані органи і "мозок" машини. Знаємо, як організований процес самонавчання, що оптимізує задану цільову функцію. Але ці знання не є "знаннями машини".
У процесі накопичення досвіду їй доведеться спілкуватися зі свідомими істотами - "суб'єктами". Доведеться показувати іншим суб'єктам свій стан і свої наміри. Доведеться керуватися станом і намірами інших суб'єктів при пошуку і виборі відповідного поведінки.
У машини є тіло - набір органів, систем і сигналів, за допомогою яких вона забезпечує свою цілісність і взаємодіє із зовнішнім світом і з іншими суб'єктами. Стан органів і тіла в цілому задається і контролюється спеціальними датчиками: ефекторами і сенсорами.
Не всі стану і дії машини є спостерігаються з боку. Тільки частину поведінки машини наблюдаема у вигляді помітних станів або динамічних дій.
Деякі стану, позиції або малопомітна активність машини можуть бути інтерпретовані, як "намір" - майбутнє дію. Намір як починається дія насправді викликано роботою прихованого процесу оптимізації цільової функції. Ми поки не можемо говорити, що проявляється намір має якесь суб'єктивне (пережите) значення для самої машини.
Вираженого наміру передує ледь вловлює самою машиною намір, який ще не розвинулося до спостережуваного дії, але вже створило зусилля або інші вимірювані власними датчиками машини зміни в її системах. Як випливає з власного досвіду машини, такі зміни через мить приведуть до спостережуваного висловом наміри, а потім і до здійснення дії.
Таке невидиме оточуючим власний стан можна трактувати як бажання, обгрунтоване або незрозуміле перевагу однієї дії іншому. Це "внутрішній стан" ще не проявилося у вигляді "поведінки".
Якщо б машині довелося пояснювати свій стан словами, то в першому випадку вона б сказала "я піднімаю руку", а в другому - їй довелося б використовувати формулу "я хочу підняти руку". При цьому поняття "хочу" асоціюється у машини з певним вимірюваним її сенсорами (внутрішнім) станом.
Разом з тим, внутрішній стан є для машини таким же піднаглядним станом, як явно виражене стан і поведінку власного тіла і інших об'єктів в зовнішньому світі. Внутрішнім станом можуть мати цілком "зовнішні" органи, наприклад, та сама рука. У цьому контексті "внутрішній" - це невидимий ззовні. Повне стан органів та систем машини складається з спостережуваного з боку (об'єктивного) стану та з сприйманого тільки самою машиною (внутрішнього) стану.
Чим викликана ідея "я хочу підняти руку", яку машина може висловити, а може і не виражати в словах? Ця ідея заснована не на змінах у зовнішньому світі, а на спостережуваному тільки цією машиною зміні її внутрішнього стану.
Як сама машина, так і зовнішній спостерігач, можуть не бачити об'єктивних зовнішніх змін, що призводять до певного внутрішнього стану машини. Тим більше що цей стан залежить не тільки від зовнішніх, а й від внутрішніх причин. Зазвичай буває навпаки: намір виступає як причина наступних подій у зовнішньому світі. Через відсутність логічного ланцюжка від зовнішніх об'єктів до внутрішнього стану не завжди можливо описати свій стан в "об'єктивних" термінах.
Якщо деякі особливості внутрішнього стану машини спостерігаються спеціалізованими "внутрішніми" сенсорами або мають незвичайну для зовнішніх сенсорів природу, то вони теж не можуть бути виражені через "зовнішні" поняття подібно до того, як відчуття голоду або страху не представимо через тактильні або слухові відчуття.
З часом і за необхідності машина вибере відповідні сигнали для вираження різних відтінків свого внутрішнього стану. За тисячі років спілкування один з одним ми теж винайшли слова, жести й інші "зовнішні" сигнали для вираження свого внутрішнього стану.
Сприймається суб'єктом внутрішній стан, не виражається через властивості матеріальних об'єктів, і є "ідеальне" відчуття.
Проведений уявний експеримент спрямований на демонстрацію того, що внутрішній стан спеціально сконструйованої машини може стати для неї суб'єктивним відчуттям. Але це не означає, що зір або інші зовнішні органи поставляють машині тільки "об'єктивні" відомості про світ. Зовнішні матеріальні об'єкти теж сприймаються як сукупність відчуттів. Спостереження можна трактувати, як відчуття якостей зовнішнього світу, а відчуття можна вважати наглядом свого внутрішнього стану.
У відповідності з конструкцією нашої машини "внутрішнє" і "зовнішнє" спостереження виконується звичайними датчиками. Нічого "ідеального" в цьому немає. Ідеальність полягає в тому, що машина сприймає і використовує для вибору поведінки лише "якості", асоціативно пов'язують стану різних датчиків. Універсальність машини забороняє її мозку використовувати конкретні дані для взаємодії з сенсорами і ефекторами. Мозок оперує лише "впізнавання" ситуацій. Мабуть, елементарні "впізнавання" - це і є основа "якостей", доступних сприйняттю машини як суб'єктивні відчуття.
Ми знаємо, що на виході кожного сенсора є "результат поточного вимірювання". Але машина не може виконати "вимір" на наше прохання, тому що не використовує ніяких приписаних логічних моделей зовнішнього світу або свого стану, наприклад, не використовуються відомості про конструкцію датчиків і про способи їх підключення до системи. Машина не знає про існування датчиків.
Щоб не сплутати наші знання про машину і власні знання машини, досить запитати її, "що вона знає про свою конструкції". І якщо б вона могла говорити, то не сказала б нічого зрозумілого. Для чистоти проведеного уявного експерименту, ми позбавили її можливості спочатку володіти такими знаннями. Але це не заважає їй навчатися. Вона навіть може навчитися говорити.
Таким чином, спостерігається універсальної самонавчальної машиною власний стан і зовнішній світ сприймаються нею у формі відчуттів, а не у вигляді результатів вимірів, числових або символьних даних.
Машина може зробити або не зробити те, що вона має намір зробити, так як обставини змінюються, змінюється оцінка важливості і здійсненності різних дій - алгоритм оптимізації цільової функції постійно працює. У результаті з'являється враження про "свободу волі" і про "силу волі", наприклад, про здатність відмовитися від бажаного або терпіти неприємне. Це враження - теж одне з неспостережуваних ззовні внутрішніх станів.
Відчуття постійно деталізуються і наповнюються все новим змістом в результаті взаємодії суб'єктів, яким доводиться враховувати "душевне" стан один одного.
Відчуття, як свого стану, так і зовнішнього світу з'являються у машини не відразу, а після накопичення деякого досвіду, коли вона в результаті самонавчання виявляє асоціативний зв'язок між різними подіями, зокрема, між своїм станом і своїми подальшими діями. Перше відчуття - це перше впізнавання і перше знання про себе і в світі.
Оскільки машина не відразу виявляє якісь закономірності, то її перші відчуття виникають, оформляються і деталізуються поступово. За відсутності необхідного досвіду деякі відчуття можуть бути забуті, як забуваються неміцні знання. Деякі почуття можуть з'явитися досить пізно, не раніше, ніж будуть виявлені відповідні закономірні зв'язки між різними внутрішніми станами або між станом машини і зовнішніми обставинами. Деякі почуття можна розвинути шляхом спеціальних вправ.
Не так просто зв'язати духовний світ людини з певними об'єктивними явищами і діями або з суб'єктивними намірами. Цей зв'язок часто не простежується через високу детальності і з-за соціальної обумовленості наших почуттів.
Хоча внутрішній стан не наблюдаемо у вигляді "чужого відчуття", але воно може бути визначене інструментально - виміряно. Цілком можна встановити, яким саме об'єктивним станам організму відповідають почуття голоду, страху, болю. Такі прості і сильні первинні почуття можна надійно зв'язати з об'єктивним внутрішнім станом. Деякі "складні" переживання розвиваються тільки при наявності глибокого знання, недоступного тваринам і нашої наївної самонавчальної машині.
Що стосується людини і тварин, то вони не були створені, як експериментальні машини, і не були одного разу "включені". Перші почуття розвиваються у ще не народжену дитину одночасно з розвитком самих органів почуттів.
Що відчуває штучне істота?
Органи вимірюють якісні властивості світу, мозок вбудовує ці виміри в асоціативний смислову мережу, і при цьому вони стають відчуттями.
Обгрунтуванням того, що у нас виходить істота, а не автомат, є його здатність до універсального навчання та наявність у нього зацікавленості в нових досягненнях. Універсальність навчання обгрунтовується конструкцією "універсального мозку". Стимулом самонавчання є внутрішня об'єктивна цільова функція Wish.
Ми навмисне не вносимо в машину механізмів або алгоритмів, які могли б диктувати, чому і як треба вчитися. Машина сама навчиться чогось в залежності від того, які вона отримає органи, і яким буде навколишній світ.
Видиме цікавість і зацікавленість у результатах своїх дій, уникнення невигідних ситуацій повинні переконати нас у тому, що машина відчуває емоції. Які? Як ми зможемо побачити її цікавість і емоції? Адже ми не програмували ніякого поведінки, в тому числі і способу вираження емоцій.
Те, що яке-то поведінка машини є вираженням її емоцій, стане ясно тільки потім, після спілкування з нею, і після того, що вона досягне певного рівня інтелекту. Адже ніде не сказано, що означає виляння хвостом у собаки. Ми самі розгадали сенс цього виляння, зіставляючи різні поведінки собак з тим, що вони повинні були б відчувати на нашу думку.
І ось, нарешті, ми переконалися в тому, що машина щось відчуває. Що вона відчуває? Яким чином виникли її відчуття і її суб'єктивний внутрішній світ?
Припустимо, машина освоїла точні маніпуляції з предметами за допомогою рук і надійне розрізнення предметів за допомогою очей. Тепер вона відчуває і бачить. Об'єктивно можна порівняти гостроту нашого і її зору, діапазони видимих світлових хвиль.
Наша машина має універсальний мозок, якому все одно, що за датчики він обслуговує. Незважаючи на абсолютно рівне ставлення мозку до всіх датчиків, і всім сигналам, що надходять від них, машина навчилася бачити різні кольори. Жовтий і зелений колір - це різні якості зовнішнього світу. Строго кажучи - це різні стани органу зору. Приписування цих станів властивостям світу - це просто спосіб опису зовнішнього світу в термінах нашого сприйняття. Отже, у машини є різні відчуття зовнішнього світу.
Після того, як машина добре освоїла свій орган зору, проведемо такий експеримент. Відключимо орган зору - очі, і на відповідні входи мозку подамо сигнали, що імітують якісь видимі образи. У цьому випадку машина буде продовжувати бачити. Вона буде відчувати зорові якості за відсутності органу зору.
Ускладнимо експеримент і подамо на входи зору сигнали, відповідні повній темряві. Все одно різні зорові відчуття збережуться. Ми бачимо зорові образи уві сні, коли орган зору фактично не бачить нічого подібного. Ці образи асоціативно згадуються під впливом сигналів від інших органів почуттів. Відчуття зберігаються, поки досвід таких відчуттів є у пам'яті.
З медичної практики відомі фантомні відчуття: рух відсутніми пальцями, біль у відсутньої нозі. Цікаво, як довго зберігається це явище - яка ємність оперативної пам'яті органів?
Отже, самі датчики (органи) не є постачальниками відчутних якостей. Вони постачають в мозок щось інше, якусь інформацію, а відчуття кольору, болю, дотику і т.п. можуть бути вилучені ізольованим мозком з минулого досвіду.
Скористаємося тим, що й очі і руки мають і моторні та сенсорні функції.
Проведемо більш радикальний досвід. Від'єднавши руки машини від нервових каналів зв'язку з мозком і підключимо їх до тих каналах, які раніше обслуговували орган зору. А очі підключимо до каналів, які раніше були з'єднані з руками.
Як і в першому досліді, машина спочатку буде продовжувати відчувати і бачити, але це будуть незвичні або безглузді образи. У силу універсальності, мозок її поступово освоїть правильну взаємодію з переставленими органами, таке, яке сприяє оптимізації цільової функції. У машини знову сформуються адекватні відчуття кольору і видимих образів, дотик і точні рухи руками.
Схожа, але менш радикальна перебудова, відбувається у людини, яка починає носити перевертають окуляри. Можна провести подібний експеримент з імітації слуху зоровими образами або навпаки. Враження сліпий жінки, яка використовувала звуковий локатор для компенсації відсутнього зору є на сторінці "Бачити за допомогою слуху".
З цього досвіду випливає, що конкретні відчуття якостей, пов'язані з зором, не залежать від того, до яких входам універсального мозку підключені очі. Зорові відчуття формуються поступово і вбудовуються в систему інших відчуттів властивостей світу в міру накопичення досвіду використання зору.
За способом формування ця система неминуче стає моделлю зовнішнього світу, пристрій якого не залежить від способу підключення органів до мозку.
Отже, першоджерелом зорових відчуттів є зовнішній світ, але після того, як система зорових відчуттів сформована, вона залишається у свідомості, а об'єктивно - у пам'яті, ще деякий час навіть і без участі органу зору.
При відсутності позитивного (що приводить до оптимізації цільової функції "Wish") досвіду взаємодії із зовнішнім світом відчуття якостей цього світу взагалі відсутні. Вони не притаманні самонавчальної системі самої по собі.
"Датчик Wish" є істотною і обов'язковою частиною універсального мозку. Основна функція універсального мозку - мінімізація сигналу Wish.
У міру підключення до універсального мозку все нових і нових фізично різних органів, у нашої відчуває машини з'являється все більше якісно різних відчуттів властивостей зовнішнього світу, але тільки в тому випадку, якщо використання нових органів впливає на функцію Wish.
Важливо не тільки поліпшення значення Wish, а практичний вплив на величину Wish. Якийсь хронічно правильна поведінка перестає впливати на Wish та стає неусвідомлюваним, в той час як невелика зміна цієї поведінки могло б погіршити значення Wish.
Можна сказати, що органи вимірюють якісні властивості світу, мозок вбудовує ці виміри в асоціативний смислову мережу, і при цьому вони стають суб'єктивно сприймаються або невоспрінімаемимі (автоматичними) відчуттями. У детермінованою, алгоритмічної машини сигнали датчиків завжди є автоматичними.
У універсальної студіюючої машини ці сигнали, якщо вони сприяють досягненню кращого значення цільової функції, стають відчуттями, а після того, як їх використання перестає змінювати цільову функцію, наприклад, при досягненні оптимуму, ці відчуття перестають усвідомлювати. Таким чином, усвідомленням існує тільки під час навчання, або в будь-якій ситуації, коли поточне використання відповідних органів впливає на величину цільової функції Wish.
Оригінал статті знаходиться на сайті http://cordially.narod.ru