Історія виникнення та розвитку поняття «штучний інтелект». Передісторія

1 2

Ім'я файлу: 1. Штучний інтелект.doc
Розширення: doc
Розмір: 161кб.
Дата: 09.11.2020
скачати
Пов'язані файли:
диф.залік-З-МАРКЕТИНГУ (1).docx
КУРСОВА Лазор.docx
Стратегія управління структурою капіталу.docx

Історія виникнення та розвитку поняття «штучний інтелект».
Передісторія

Ідея створення штучної подоби людини для вирішення складних задач і моделювання людського розуму витала в повітрі ще в найдавніші часи. Так, у древньому Єгипті була створена «оживаюча» механічна статуя бога Амона. У Гомера в «Іліаді» бог Гефест кував людиноподібні істот-автомати. У літературі ця ідея обігравалася багаторазово: від Галатеї Пігмаліона до Буратіно папи Карло. Однак родоначальником штучного інтелекту вважається середньовічний іспанський філософ, математик і поет Раймонд Луллій, що ще в XIII столітті спробував створити механічну машину для рішення різних задач, на основі розробленої їм загальної класифікації понять. На початку XVII століття Рене Декарт (французький філософ, фізик, фізіолог, математик, засновник аналітичної геометрії) зробив припущення, що тварина це деякий складний механізм, тим самим сформулювавши механічну теорію. В 1623 році Вільгельм Шикард (німецький вчений, астроном, математик) побудував першу механічну цифрову обчислювальну машину, через декілька років по цьому створили свої машини Блез Паскаль (французький філософ, письменник, математик та фізик) в 1643 ріці і Лейбніц (саксонский філософ, логік, математик, механік, фізик, юрист, історик, дипломат, винахідник) в 1671 ріці. Лейбніц також був першим, хто описав сучасну двійкову систему числення. В XIX столітті Чарльз Беббідж і Ада Лавлей працювали над програмованою механічною обчислювальною машиною.

У XVIII столітті завдяки розвитку техніки і, в особливості, годинникових механізмів інтерес до подібних винаходів зріс ще сильніше. В середині 1750-х років австрійський винахідник Фрідріх фон Кнаус сконструював серію машин, які вміли писати пером досить довгі тексти. Досягнення в механіці XIX століття сприяли новому поштовху винаходів в напрямку до сучасного розуміння штучного інтелекту. У 1830-х роках англійський математик Чарльз Беббідж придумав концепцію складного цифрового калькулятора – аналітичної машини, яка могла б розраховувати ходи для гри в шахи. У 1832 році С. Н. Корсаков представив принцип розробки наукових методів і пристроїв для посилення можливостей розуму і запропонував серію «інтелектуальних машин», в конструкції яких, вперше в історії інформатики, застосував перфоровані карти. ^[5]

В 1910—1913 рр. Бертран Рассел ( британський філософ, математик і суспільний діяч) і А. Н. Уайтхед (британський математик, логік, філософ) опублікували працю «Принципи математики», яка здійснила революцію в формальній логіці. В 1941 р. Конрад Цузе побудував перший працюючий програмно-контрольований комп'ютер. Воррен Маккалок і Вальтер Піттс в 1943 р. опублікували A Logical Calculus of the Ideas Immanent in Nervous Activity, поклавши основи нейронних мереж.

Остаточне народження штучного інтелекту як наукового напрямку відбулося тільки після створення ЕОМ у 40-х роках XX століття. У цей же час Норберт Вінер створив свої основні роботи з нової науки — кібернетиці.

Від кібернетики «чорної шухляди» до Ші

1. Наприкінці 50-х років народилася модель лабіринтового пошуку. Цей підхід представляє задачу як деякий простір станів у формі графа, і в цьому графі проводиться пошук оптимального шляху від вхідних даних до результуючого. Були пророблені великі робота з розробки цієї моделі, але для вирішення практичних задач ця ідея не знайшла широкого застосування. У перших підручниках з штучного інтелекту [Хант, 1986; Ендрю, 1985] описані ці програми — вони грають у гру «15», збирають «Ханойську вежу», грають у шашки і шахи.

2. Початок 60-х — це епоха евристичного програмування. Евристика — правило, теоретично не обґрунтоване, котре дозволяє скоротити кількість переборовши в просторі пошуку. Евристичне програмування — розробка стратегії дій на основі відомих, заздалегідь заданих евристик [Александров, 1975].

3. У 1963-1970 р. до рішення задач стали підключати методи математичної логіки. Робинсон розробив метод резолюцій, що дозволяє автоматично доводити теореми при наявності набору вихідних аксіом. Приблизно в цей же час видатний вітчизняний математик Ю. С. Маслов запропонував так називаний зворотний висновок, згодом названий його ім'ям, що вирішує аналогічну задачу іншим способом [Маслов, 1983]. На основі методу резолюцій француз Альбер Кольмероэ в 1973 р. створює мову логічного програмування Пролог. Великий резонанс мала програма «Логік-теоретик», створена Ньюэлом, Саймоном і Шоу, що доводила шкільні теореми. Однак більшість реальних задач не зводиться до набору аксіом, і людина, вирішуючи виробничі задачі, не використовує класичну логіку, тому логічні моделі при усіх своїх перевагах мають істотні обмеження по класах розв'язуваних задач.

4. Історія штучного інтелекту повна драматичних подій, одною із яких стала у 1973 р. так називана «доповідь Лайтхилла», що була підготовлена у Великобританії за замовленням Британської ради наукових досліджень. Відомий математик Д. Лайтхилл, ніяк з ШІ професійно не зв'язаний, підготував огляд стану справ в галузі ШІ. У доповіді були визнані визначені досягнення в галузі ШІ, однак їхній рівень визначався як такий, що розчаровує, і загальна оцінка була негативна з позицій практичної значимості. Цей звіт відкинув європейських дослідників приблизно на 5 років тому, тому що фінансування ШІ істотне скоротилося.

5. Приблизно в цей же час істотний прорив у розвитку практичних додатків штучного інтелекту відбувся в СЩА, коли до середини 1970-х на зміну пошукам універсального алгоритму мислення прийшла ідея моделювати конкретні знання фахівців-експертів. У США з'явилися перші комерційні системи, засновані на знаннях, чи експертні системи (ЕС). Став застосовуватися новий підхід до вирішення задач штучного інтелекту — представлення знань. Створені MYCIN і DENDRAL [Shortliffe, 1976; Buchanan, Feigenbaum, 1978], що стали вже класичними, дві перші експертні системи для медицини і хімії. Істотний фінансовий внесок вносить Пентагон, пропонуючи базувати нову програму міністерства оборони США (Strategic Computer Initiative — SCI) на принципах ШІ. Уже навздогін упущених можливостей на початку 80-х оголошена глобальна програма розвитку нових технологій ESPRIT (Європейський Союз), у яку включена проблематика штучного інтелекту.

6. У відповідь на успіхи США наприкінці 70-х у гонку включається Японія, оголосивши про початок проекту машин V покоління, заснованих на знаннях. Проект був розрахований на 10 років і поєднував кращих молодих фахівців (у віці до 35 років) найбільших японських комп'ютерних корпорацій. Для цих фахівців був створений спеціально новий інститут ICOT, і вони одержали повну волю дій, щоправда, без права публікації попередніх результатів. У результаті вони створили досить громіздкий і дорогий символьний процесор, що програмно реалізує Пролого-подібну мову, що не одержав широкого визнання. Однак позитивний ефект цього проекту був очевидний. У Японії з'явилася значна група висококваліфікованих фахівців в галузі ШІ, що домоглася істотних результатів у різних прикладних задачах. До середини 90-х японська асоціація ШІ нараховує 40 тис. чоловік.

Починаючи із середини 1980-х років, повсюдно відбувається комерціалізація штучного інтелекту. Зростають щорічні капіталовкладення, створюються промислові експертні системи. Зростає інтерес до систем, що самонавчаються. Видаються десятки наукових журналів, щорічно збираються міжнародні і національні конференції по різних напрямках ШІ. Штучний інтелект стає однією з найбільш перспективних і престижних галузей інформатики (computer science).

Загальноприйнято вважати, що автором терміну «штучний інтелект» (англ. Аrtifwial intelligence) є Джон Маккарті (американський інформатик, винахідник мови Лісп, основоположник функціонального програмування, лауреат Премії Тьюринга за величезний внесок в область досліджень з штучного інтелекту), який вперше вжив його в своїй доповіді на конференції в Дартмутському університеті (штат Нью-Гемпшир, США) в 1956 році. Він цікавився, чи можна навчити машину, як і дитину, абстрактним поняттям, використовувати мову і самостійно вдосконалюватися методом спроб і помилок.

На сьогодні існує досить багато трактувань поняття «штучний інтелект». Залежно від того, що розуміється під основним предметом наукового дослідження, всі наявні дефініції штучного інтелекту можна розділити на дві групи. До першої групи належать визначення, що характеризують штучний інтелект як галузь наукового знання, до другої - трактування, що характеризують ознаки та властивості певних пристроїв або систем.

Так, однією з найпоширеніших дефініцій, що відноситься до першої групи, є визначення Р. Курцвейла, який вважає, що «штучний інтелект» - це наука створення комп'ютерів, здатних робити речі, які людина робить з використанням свого інтелекту.

У цьому ж світлі висловлюються Д. Кастро і Дж. Нью, на думку яких, штучний інтелект - це «сфера комп'ютерних наук, присвячена створенню обчислювальних машин і систем, що виконують операції, аналогічні людському навчанню і прийняттю рішень».

У цьому контексті можна навести визначення штучного інтелекту, запропонованого Е. Річем, К. Найтом і Ш.Б. Нейро - як «науку про те, як змусити комп'ютери робити речі, які люди на теперішній час роблять краще ».

Доцільно також навести ще кілька визначень штучного інтелекту з позиції, що характеризують ознаки і властивості комп'ютерних систем.

Оксфордський словник подає таке визначення: штучний інтелект — це теорія і розробка комп’ютерних систем, здатних виконувати завдання, які зазвичай потребують людського інтелекту, таких як візуальне сприйняття, розпізнавання мови, прийняття рішень і переклад між мовами.

В англійській мові словосполучення «artificial intelligence» не має такого антропоморфного забарвлення, якого воно набуло в російському та українському перекладі. Слово «intelligence» означає «уміння міркувати розумно, розумові здібності», а зовсім не «інте- лект», для якого існує англійський аналог «intellect». Через неоднозначність самого поняття «інтелект» і оригінального терміна «intelligence» існують й інші дефініції. Наприклад, інформаційні технології ШІ визначаються як здатність системи створювати в ході самонавчання програми (у першу чергу евристичні) для вирішення завдань певного класу складності та вирішувати ці завдання.

До речі, емпіричний тест на визначення ШІ був запропонований А. Тюрингом у 1950 році, коли такого терміна ще не існувало. Згідно з цим тестом, мислячою машиною вважається та, яку людина в бесіді з нею прийняла за людину.

У роботі [3] доктор технічних наук, член-кореспондент НАН України А. І. Шевченко подає таке визначення цього терміна: «штучний інтелект — це алгоритм вирішення завдань, сформований штучною свідомістю». Він пропонує авторське визначення поняття «штучний інтелект» як сукупності універсальних процедур, що дають змогу на свідомому рівні створювати алгоритми рішення конкретних творчих завдань.

П.Г. Уїнстон каже про штучний інтелект як про обчислювальну машину, яка здатна робити речі, які виглядають для людей розумними, а А. Ендрю як про обчислювальній машині, яка наділена можливостями можливостями інтелектуального поведінки.

Крім того, слід зазначити, що штучний інтелект — термін, що застосовується для опису інтелектуальних можливостей комп’ютерів для прийняття рішень. Більшість експертів у цій сфері [1] сходяться на тому, що існує три категорії (або типи) ШІ:

•Штучний інтелект вузького спектра, або ANI( Artificial Narrow Intelligence) — перший рівень штучної свідомості, яка спеціалізується на прийнятті рішень лише в одній сфері: наприклад, може обіграти світового чемпіона із шахів, однак може зробити тільки це і нічого більше.

•Загальний штучний інтелект, або AGI (Artificial General Intelligence) — штучний інтелект другого рівня, який досягає та перевершує рівень звичайної людської свідомості: може розв’язувати математичні та логічні задачі, абстрактно мислити, порівнювати та засвоювати складні ідеї, швидко навчатися, зокрема із власного досвіду.

•Штучний суперінтелект, або ASI (Artificial Super Intelligence) — третій рівень розвитку технологій штучного інтелекту, де він є розумнішим, аніж усе людство разом узяте, спочатку трохи, а згодом як результат самонавчання — у трильйони разів.

Якщо ж вести мову про нинішній стан речей, то в багатьох сферах життя ми опанували та запровадили системи, що використовують ANI, зокрема у автівках, в основі роботи пошуковика Google, стрічки новин Facebook. Сучасні антиспам-фільтри у нашій пошті та системи автопілотування літаків, навіть наші смартфони частково та низка ігор — це результат роботи ANI. Складні системи вузькопрофільного ШІ використовують у виробництві, фінансах, на біржах, у військовій сфері.

Як бачимо, сьогодні у поняття «штучний інтелект» вкладається різний зміст - від визнання інтелекту в ЕОМ, що вирішують логічні або навіть будь-які обчислювальні задачі, до віднесення до інтелектуальних лише ті систем, які вирішують весь комплекс задач, що здійснюються людиною або ще більш широку їх сукупність.

Для розуміння поняття штучного інтелекту необхідно визначити, що таке задача. Задача є лише тоді, коли є робота для мислення, тобто коли є певна мета, а засоби для її досягнення не відомі; їх необхідно знайти за допомогою мислення. Влучно з цього приводу висловився Д. Пойя: "... складність рішення у деякій мірі входить у саме поняття задачі: там, де немає складності, немає і задачі." Якщо людина володіє алгоритмом рішення деякої задачі і має фізичну змогу її реалізації, то задачі як такої вже не існує. Якщо задача не є розумовою, то вона вирішується на ЕОМ традиційними методами і, таким чином, не входить до кола задач штучного інтелекту. Її інтелектуальна частина виконана людиною.

Отже,

штучний інтелект - це штучно створена система, здатна знаходити рішення поставлених перед нею задач не за допомогою наперед заданого алгоритму, а за допомогою власного досвіду, тобто може сама знаходити алгоритм рішення.

Людина, як джерело входу інформації має п’ять почуттів: зір, слух, запах, смак і контакт. Щоб дублювати людський інтелект комп’ютер також повинен мати хоча б більшу кількість цих п’яти людських способів відчуття, він повинен розпізнавати образи і мову. Насправді усі інформаційні системи можуть керувати лише символами і правилами. На такому рівні керування досягнуто незначних успіхів у сферах навчання і міркування. Штучний інтелект лише намагається дублювати ознаки людського інтелекту. Інформаційні системи не можуть вчитись на власному досвіді, людські знання можуть бути введені людиною як правила дій.

Існує і більш широке визначення поняття штучного інтелекту, яке гарним чином відбиває його суть.
Штучний інтелект – це штучно створена людиною система, здатна обробляти інформацію, яка до неї надходить, пов'язувати її із знаннями, якими вона вже володіє, і відповідно формувати своє власне уявлення про об’єкти пізнання.
Сфери застосування штучного інтелекту

Застосування штучного інтелекту стало можливим не тільки в Інтернеті. Навіть повсякденне життя і виробничий сектор вже не обходяться без складної електроніки зі здатністю до навчання і запам'ятовування складних програм.
Давайте розберемо сім основних сфер, де напрацювання в області ШІ активно застосовуються в наші дні:
Сільське господарство. Ще в 2016 році фірма Cognitive Technologies запустила тестування безпілотного трактора, який обладнаний розумним процесом навігації завдяки використанню супутникових датчиків. Така техніка дуже виручає при зборі врожаю і роботі з гербіцидами, де ускладнено використання людської праці.
Сфера безпеки. Поліцейські і пожежники в десятках країн вже використовують ШІ при виконанні своїх повсякденних завдань. Наприклад, у Лондоні камери фіксують злочинні акти і формую супутню документацію в прокуратуру.
Дім і побут. «Розумні будинки» навчилися регулювати температуру в приміщенні, вчасно запускати роботу техніки. Сьогодні вони пропонують користувачам сотні зручних функцій.
Сфера фінансів. Нейронні мережі допомагають автоматизувати роботу банків та інших фінансових установ, ШІ допомагає виявити шахрайські операції та вести звітність.
Освіта. У цій галузі штучний інтелект сприяє спрощенню рутинних операцій, наприклад, допомагає з перевіркою тестових завдань. Також цифрові алгоритми працюють над вдосконаленням методик передачі даних.
Управління персоналом. Методи машинного навчання впроваджуються в ряд операцій (проведення співбесід, підбір кандидатів за конкретними критеріями, контроль роботи співробітників з метою запобігання шахрайських дій).
Маркетинг. Завдяки нейронним мережам та іншим потужним інструментам ШІ, маркетологи значно швидше збирають і аналізують дані про тисячі споживачів, а також отримують більш дієві інструменти для збільшення продажів послуг і товарів.
Не менш важливим є й інше етичне питання, яке пов’язане з безпосереднім використанням технологій штучного інтелекту (АІ, від анг. Artificial intelligence) та породжує дилему: чи вважити людину машиною, якщо 80 % її тіла в результаті хірургічного втручання замінено штучними органами. Подібна перспектива вже не здається настільки неймовірною, адже вже сьогодні розроблені роботизовані кінцівки, кришталик ока, вестибулярний імплантат, серце, нирка та інші штучні органи. У 2014 р. вчені з інженерної школи Вітербо створили працюючий штучний синапс, що складається з нанотрубок. За оцінками експертів,уже до 2050 р. стане можливою повна заміна фізичного мозку штучним, що приведе до багаторазового прискорення розумової діяльності і навіть ліквідаціїсмерті (Bostrom). Питання в тому, чи залишиться людина людиною, зазнавши таких змін?
Штучний інтелект впроваджується в різних сферах життєдіяльності суспільства: від створення інфраструктури та національної оборони до освіти, спорту та розваг. Тому необхідно враховувати культурно- і предметно-залежні відмінності при прийнятті етичних правил використання та впровадження АІ. Так, однією культурою може позитивно сприйматися фотографування людей, натомість для носіїв іншої культури це може бути взагалі категорично неприйнятним, наприклад з релігійних переконань (Beall). Саме тому країни, які активно впроваджують та виробляють технології АІ, повинні розробити власні принципи та правила з урахуванням національних (культурних) та релігійних особливостей кожної нації. Такий підхід дасть змогу раціонально та безпечно використовувати будь-які технології АІ. Отже, для чіткого розуміння етичних аспектів впровадження штучного інтелекту варто класифікувати їх алгоритми за інтелектуальними можливостями на прості, складні та суперінтелектуальні (див. рисунок).

Класифікація алгоритмів штучного інтелекту

До простих відносять елементарні (локальні)

інтелектуальні програми, які створені для спрощення повсякденного життя людей (наприклад навігатори, «смарт-техніка», голосові помічники). Такі програми можуть вирішувати лише локальні завдання і ніколи не зможуть вийти за їх межі. Основою складного АІ є створення такої системи, яка могла б бути розумнішою і думати на рівні людського розуму. Алгоритми складного

АІ зможуть вирішувати будь-які інтелектуальні завдання так само, як і людина. Вони запрограмовані на самонавчання, аналіз та накопичення інформації. У свою чергу, до ключових характеристик суперінтелекту відносять здатність думати, міркувати, вирішувати головоломки, виносити судження, управляти, планувати, вчитися і спілкуватися самостійно (Types of Artificial). Суперінтелект буде не просто моделлю розуму, він сам стане розумом, ідентичним розуму людини.

На думку Л. Пері, кінцевою метою безпеки АІ є створення корисного, а не штучно спрямованого інтелекту. Що саме є корисним, залишається відкритим питанням, яке певною мірою корелюється етикою. Навіть якщо всі технічні проблеми, пов’язані зі створенням складного штучного інтелекту або суперінтелекту, будуть вирішені,

все одно доведеться стикатися з дуже складними етичними питаннями, які будуть мати визначальні наслідки для розумного життя. Необхідно якнайшвидше виробити філософію або етику використання АІ (Tomasik, Pearse, 2018).

Наразі відбуваються наукові дискусії з приводу того, як ефективніше розвиватимуться дослідження щодо створення етичного АІ: як проекту машинної етики, що базується на принципах

-гарантування безпеки АІ, який забезпечить керованість та захищеність машинних систем. Однак залишається незрозумілим кінцевий результат

впровадження алгоритмів АІ, в процесі розробки яких будуть створюватися й обґрунтовуватися як старі, так і нові етичні принципи, зокрема

в таких сферах, як алгоритмічна упередженість,

технологічне безробіття, автономна зброя, конфіденційність та великі дані. Для розробників АІ

особливої актуальності набуває вирішення завдання щодо створення алгоритмів, які в процесі

функціонування будуть здатні до поведінки, яка

демонструватиме етичні принципи застосування

штучного інтелекту.

Розробка етичного АІ стане наступним етапом

розвитку у створенні суперінтелекту. По суті, це

налагодження взаємодії між формальними математичними системами та етичними принципами.

Алгоритми АІ, які будуть спроможні дотримуватись етичних та моральних принципів, забезпечать економічне зростання організації в будь-якій

сфері їх застосування та стануть конкурентною

перевагою для сфери публічного управління. Наприклад, звичайним користувачам важливо знати: що програми, які вони використовують, не

передаватимуть їхні персональні дані тим, хто не

в змозі їх надійно захищати та зберігати; що автопілот автомобіля адекватно реагуватиме, якщо

поруч на автошляху станеться аварія; що цифровий маршрутизатор не визначить пріоритетним

маршрут, який проходитиме поруч з магазинами

або компаніями, які спеціально платять їх розробникам, а обере максимально комфортний і короткий маршрут. Саме така етична поведінка АІ

щодо людини надає йому максимальну перевагу

на ринку виробників цифрових технологій.

На сьогодні людство перебуває на етапі створення складного інтелекту. Саме на цьому етапі важливо чітко зрозуміти базові етичні норми

впровадження і використання технологій АІ.

Згідно з результатами глобального опитування

SAS (Аналитические решения), 92 % компанійлідерів з впровадження та виробництва АІ проводять тренінги з етики штучного інтелекту, а

74 % – щотижня оцінюють результати роботи

впроваджених АІ-рішень. Лідери бізнесу відповідально ставляться до застосування технологій

штучного інтелекту. Серед опитаних компаній

72 % становлять компанії, які вже впровадили АІ-технології, з них 70 % навчають етичним

нормам своїх технологів, а в 63 % компаній, які

підтвердили впровадження АІ, є спеціалізованими підрозділами з питань етики, що аналізують

використання штучного інтелекту. Разом з тим

помилкові висновки і дії АІ-систем можуть негативно позначитися на майбутній роботі як бізнес-організацій, так і державних установ. Із цим

пов’язана підвищена увага до питань етичності

і контролю над штучним інтелектом. Компанії

побоюються, що АІ може негативно вплинути

на роботу з клієнтами (60 % респондентів). Наприклад, їх хвилює, чи зможе АІ проявляти достатній рівень емпатії і чи будуть клієнти в майбутньому довіряти АІ менше через те, що це не

людина (Искусственный интеллект). На нашу

думку, ця проблема є досить суб’єктивною, адже

відносини між людьми також базуються на симпатії або антипатії, і людина, яка симпатична, викликає більше довіри, ніж несимпатична. Те саме

відбуватиметься і з АІ: люди які позитивно ставляться до технологічного прогресу, довірятимуть

штучному інтелекту так само, як і людині, або навпаки.

Саме тому важливим етапом впровадження АІ

є розробка чітких базових правил використання та

поводження з технологіями штучного інтелекту.

22 травня 2019 р. у Парижі на засіданні Організації економічного співробітництва та розвитку (ОЕСР) міністри 42 країн ухвалили правила

поводження зі штучним інтелектом. ОЕСР встановлює стандарти АІ, які є практичними і досить

гнучкими, щоб витримати випробування часом у

сфері цифрових трансформацій, яка розвивається дуже стрімко. Правила доповнюють існуючі

стандарти ОЕСР у таких сферах, як забезпечення

конфіденційності, управління ризиками цифрової безпеки і відповідальне ведення бізнесу.

Крім уже існуючих, визначено 5 додаткових,

базованих на цінностях, принципів (правил) відповідального управління надійним АІ (DECD

Principles), які, на нашу думку, слід систематизувати таким чином:

– принцип корисності – АІ повинен приносити користь громадянам у всіх країнах світу, стимулюючи сталий розвиток і добробут;

– принцип законності – системи АІ повинні

бути спроектовані таким чином, щоб поважати

верховенство закону, права людини та демократичні цінності, а також гарантувати в разі необхідності можливість втручання людини в роботу АІ;

– принцип транспарентності – забезпечення

прозорості розкриття інформації про системи АІ,

для того щоб громадяни мали доступ до інформації про результати роботи її алгоритмів і могли їх

оскаржувати;

– принцип стабільності – системи АІ повинні функціонувати надійно і безпечно упродовж

96

Інформаційні технології

Вісник НАДУ. Серія «Державне управління» • 4'2019

усього життєвого циклу, а потенційні ризики повинні постійно оцінюватися і управлятися;

– принцип відповідальності – організації та

окремі особи, які розробляють, впроваджують

або експлуатують системи АІ, повинні нести відповідальність за їх належне функціонування.

8 червня 2019 р. вищевказані принципи були

ухвалені на засіданні міністрів фінансів країн

G-20 (Koizumi, 2019). Базовою умовою виконання

цих принципів є дотримання людиноцентричності

в застосуванні штучного інтелекту, що підвищить

довіру до технологій АІ і дасть змогу повною мірою реалізувати їх потенціал. Крім того, розробники АІ стануть підзвітними та поважатимуть

верховенство закону і загальнолюдські цінності,

включаючи недоторканність приватного життя,

рівність, різноманітність і міжнародно визнані

трудові права.

Висновки і перспективи подальших досліджень. У результаті проведеного дослідження

були обґрунтовані етичні особливості застосування штучного інтелекту, що дало змогу сформулювати такі висновки та рекомендації:

1. Для розробки актуальних етичних правил

для алгоритмів АІ варто розділяти штучний інтелект на простий, складний та суперінтелектуальний. Саме такий поділ забезпечить комфортні умови для співпраці людей із сучасними технологіями

АІ, що, у свою чергу, підвищить рівень довіри користувачів до сучасних цифрових технологій.

2. Після впровадження алгоритмів АІ в компаніях та органах публічного управління важливо

контролювати та аналізувати результати роботи

АІ і на основі цих даних розробляти персоналізовані етичні правила.

3. З метою застосування єдиних принципів

етики штучного інтелекту більшістю провідних

країн світу ухвалено відповідні правила, які чітко

регламентують норми (етичні) використання новітніх цифрових технологій.

Незважаючи на те, що в Україні активно декларується впровадження цифрових технологій у

публічне управління, уповноважені представники відповідного центрального органу виконавчої

влади не брали участі в розробці принципів застосування штучного інтелекту. Тому в Україні

абсолютно не враховуються ні етичні особливості, ні розвиток самої сфери штучного інтелекту та

машинного навчання, що, зрештою, призведе до

того, що й надалі відбуватиметься використання

застарілих та неефективних технологій електронного урядування.
Перші дослідження людського інтелекту розпочались ще в добу античності і пов’язані з досягненнями Аристотеля у сфері логіки. Проте

серйозно вищезгадана сфера почала розвиватись лише в середині ХХ ст. Достатньо згадати дві події. 1950 року Алан Т’юринг видав статтю «Обчислювальні машини і розум», де

запропонував замінити питання Чи здатна машина думати? на питання Чи може машина

діяти таким чином, щоб її дії було неможливо відрізнити від людських? (важливо звернути увагу на постановку питання: пріоритетним було не визначення розумності машини,

а оцінка її поведінки та (не)можливості відрізнити її від поведінки звичайної людини).

Ще одним ключовим моментом в історії штучного інтелекту можна вважати Дартмутський

семінар 1956 року, де вперше і було сформульовано термін «штучний інтелект», а також

Н’юелл та Саймон презентували програму Logic Theorist (LT), яка була здатна доводити

елементарні теореми. На семінарі були присутні 10 науковців: Дж. Маккарті, М. Мінський,

К. Шеннон, А. Самюель, Г. Саймон, А. Н’юелл, Т. Мур, Р. Соломонофф, О. Селфрідж,

Н. Рочестер (Bringsjord 2018). Із того часу дослідження проводились із перемінним успіхом, були періоди як застою, так і активізації експериментів, змінювались підходи до розуміння принципу роботи самого штучного інтелекту (символьний, нейросітки, модульний).

Нині комп’ютери досягли надзвичайно високого рівня потужності та складності. Їх застосовують у сільському господарстві, промисловості, військовій сфері, побуті, сфері розваг.

Важливо відзначити, що сфери філософії свідомості та штучного інтелекту надзвичайно

тісно переплітаються, стимулюючи розвиток одна одної. Дослідження у сфері філософії

свідомості стимулюють розвідки у сфері штучного інтелекту. у свою чергу, дослідження

у сфері ШІ сприяють кращому розумінню того, хто ми є, як ми мислимо, на що ми здатні.

Сучасні дослідники досить акуратно висловлюються стосовно перспектив створення розумних машин. Це пов’язано з рядом причин. По-перше, ми не можемо однозначно

та безапеляційно щось стверджувати, особливо коли це стосується можливості створення штучного інтелекту. Алан Т’юринг прогнозував, що до початку ХХІ ст. усі машини

проходитимуть тест Т’юринга (ТТ), але, як ми бачимо, цього не сталося повною мірою.

Врешті-решт, час розставити все на свої місця. По-друге, якими б шокуючими не були

113

сучасні дослідження у сфері ШІ (серед останніх проривів можна згадати здатність машини

перетворювати мозкові сигнали у членороздільне мовлення), все ж таки ШІ ще не досягнув

такого рівня, щоб зрівнятись із людським. Він обмежений певною конкретною сферою,

йому бракує гнучкості та спонтанності, йому невідомі людські почуття та труднощі етичного вибору (про це йтиметься нижче).

Ситуація ускладнюється тими протиріччями та нестиковками, що пронизують сферу штучного інтелекту на глибинному рівні. У першу чергу, нечітким є застосування самого терміна «штучний інтелект». У книзі «Штучний інтелект: сучасний підхід» С. Рассел

та П. Норвіг класифікують різноманітні визначення за двома основними категоріями: одні

формулювання стосуються мисленнєвих процесів та способів розмірковування, інші –

поведінки. В одних визначеннях успіх зумовлюється достовірним відтворенням здібностей

людини, в інших – кінцеві досягнення розглядаються через призму раціональності (Рассел,

Норвиг 2006, 35). Неоднозначним є застосування і самого терміна «інтелект» (Суворов

2018). Якщо під цим терміном ми маємо на увазі лише калькуляційні здібності людини,

то ШІ чудово виконує обчислювальні завдання. Якщо ж ми розглядаємо термін «інтелект» дещо ширше, невід’ємно від людських емоцій, почуттів, інтуїції, творчості та уяви,

етичних орієнтирів, як певну духовну силу, то його реалізація стає надзвичайно складним

завданням і є рівноцінною реалізації самої людської свідомості. З одного боку, науковці

виявляють обережність і, на перший погляд, не ставлять собі за мету змоделювати людську

свідомість, усвідомлюючи складність цієї задачі. Вони займаються реалізацією конкретних

програм, які могли би чудово рахувати, доводити теореми, розв’язувати математичні головоломки, бути чудовими гравцями в різних іграх або виконувати певні конкретні завдання.

З другого боку, дії науковців свідчать про надзвичайно амбітні плани та прагнення. Свідомо чи ні, дослідники прагнуть реалізувати увесь потенціал людської свідомості. Як інакше трактувати спроби змоделювати не лише поведінку, але й внутрішній світ людини, її почуття, емоції, етичні орієнтири, творчі здібності?! Якщо вчені (свідомо чи ні) рухаються в напрямку моделювання людської свідомості, то постає питання, якою є її природа? Такі сучасні мислителі, як Дж. Серл, Д. Деннет, Д. Чалмерс, Р. Доукінз, П. та П. Черчленди, загострюють body-mind problem та висловлють власні погляди на можливості реалізації

свідомості на штучному носії (Chalmers 2010; Chalmers 1996; Searle 1992; Юлина 2004Деннет 2004; Черчленд П. і П. Черчленд; Доукинз). Виникає питання: якщо ми достеменно

не знаємо природи свідомості, то що саме ми збираємось реалізовувати?!

Звертаючись до конкретних досліджень в сфері ШІ, необхідно визнати, що науковці значно просунулись у своїх спробах втілення людських можливостей та здібностей.

Достатньо згадати різноманітні пристрої, девайси, програми та системи. Комп’ютер вже

давно обігрує людей у різноманітних іграх, зокрема шашки, шахи та го. А нещодавно

робот зі штучним інтелектом AlphaStar переміг професійного гравця в складній стратегії StarCraft II (Хель, 2019). Експертні системи здатні бути повноцінними помічниками

людині. Необхідно визнати, що відсоток помилок, здійснений експертними системами,

постійно скорочується. Дослідники створили андроїда Софі, яка стала громадянкою Саудівської Аравії. Софі здатна вести розмови, посміхатись, проявляти емоції. Надзвичайної

популярності здобули різноманітні розумні системи, такі як розумний будинок, який здатен полегшити наше життя, виконуючи буденну та механічну роботу. Розвинулась і сфера

розпізнавання образів.

Разом із тим ми не можемо заперечити того факту, що якими б шокуючими подеколи не були відкриття, вони, як правило, обмежені певними конкретними сферами,

в яких машина «обходить» людину. Автомобілі-автопілоти діють згідно із чіткими правилами, прописаними для конкретних обставин та ситуацій; системи безпеки та розпізнавання облич орієнтовані лише на виконання певного виду роботи; ігрові системи здатні

перемогти людину лише в певному виді гри. Проте природа людської свідомості є набагато

універсальнішою: людина може бути (чи стати) ким завгодно, в неї безліч можливостей

та перспектив розвитку, вона здатна ефективно діяти не лише за наявності чітко прописаних правил, але й за відсутності інформації загалом, її діяльність не обмежується однією

сферою. Коли ми починаємо занурюватись у проблему глибше, то виявляється, що сфера

мовлення, поведінки, емоцій та почуттів далека від повноцінної реалізації в технічному

середовищі. Машинам бракує гнучкості та спонтанності дій. Серед основних проблем,

з якими стикаються науковці, намагаючись створити розумні машини, можна відзначити

такі (McCarthy 2006, Dreyfus 1972):

1) створюючи інтелектуальні машини, науковці не можуть наділити їх розумінням, у тому числі розумінням самих себе (або самосвідомістю). Комп’ютери здатні обробляти велику кількість інформації, проте не здатні її осмислити. Цю проблему піднімав

Дж. Серл, провівши мисленнєвий експеримент «китайської кімнати». Машина маніпулює

символами, проте не розуміє те, що робить. Якщо спитати комп’ютер про його думку чи

його ставлення до інформації, він не зможе задовольнити нашу цікавість. Потужні ігрові

системи можуть обігрувати людей в шахи чи різні стратегії, проте вони не здатні захотіти

грати, продовжити змагання чи просто зрозуміти, що вони виграли. Сенсовним виміром

здатна оперувати нині лише людина. Також машина позбавлена самосвідомості. Звісно,

вона може фіксувати наявність певних операцій, виявити їх послідовність та взаємозв’язок, проте вона не володіє знанням першої особи, суб’єктивністю, а значить стосовно неї

неможливо вести мову про свободу та відповідальність;

2) другою перепоною на шляху створення ШІ є проблема невизначеності:

– ми живемо у плинному світі, який постійно змінюється. Відповідно, ми маємо

справу з мінливою, неточною та суперечливою інформацією. Будь-яка нова інформація

може змінити хід розмірковувань, сприйняття ситуації або оцінку обставин. Наша свідомість безперервно знаходиться в ситуації оновлення та перезавантаження. Кодування

та збереження інформації в комп’ютерному середовищі у формі фреймів спричинило нерозуміння процесів її оновлення. Виникає питання: яким чином необхідно налагодити зв’язок між штучною системою та реальністю? Коли та яким чином система буде знати, що

потрібно змінити, доповнити та уточнити те знання, яке в ній вже закладене? Створюючи

розумні машини, ми повинні наділити їх здібністю виявляти помилки, нестиковки, протиріччя в інформаційному потоці та виправляти їх. Тільки в такому випадку інтелектуальна

машина буде мати змогу виробити відповідність між тим, що вона знає, і тими фактами, що

її оточують;

– мовленнєва сфера людини є надзвичайно контекстною та багатозначною. Недарма пізній Л. Вітгенштайн сприймав мовлення за гру, гру контекстів та значень. Одна і та ж

сама фраза чи слово можуть сприйматись по-різному в залежності від того, коли, ким, за

яких умов і якою інтонацією вони були сказані. Окрім того, засвоєння мови передбачає

застосування певних правил, але далеко не завжди їх чітке усвідомлення. Знання та застосування мови часто носять інтуїтивний характер. Відповідно, надзвичайно складно навчити машину говорити настільки ж природно, як це робить людина. Це потребує безпосередньої залученості машини в людське середовище, безперервного тісного спілкування, не

обмеженого формальними ситуаціями;

– будь-яка штучна система володіє чітко сформульованим твердженнями. На основі цих тверджень вона аналізує, робить висновки та діє. Людська поведінка є набагато

складнішою, оскільки передбачає наявність певних прагнень, бажань, переконань, мотивів, ірраціональних компонентів;

– надзвичайно складним завданням для сучасних машин є розпізнавання образів.

Людська свідомість бачить будь-який образ цілісно, тому будь-які його зміни або спотворення («шуми») не будуть настільки різко впливати на його сприйняття. Якщо ми почуємо

видозмінену мелодію, ми все рівно її впізнаємо. У той час як машини фіксують чіткі риси,

тому будь-яке їх викривлення призведе до помилки ідентифікації;

3) невід’ємною складовою частиною людини є її тілесність, через призму якої вона

здатна сприймати світ, в якому живе. Тілесність допомагає людині відчувати та переживати

світ, вступати з ним у тісний контакт. Завдяки тілесності людина вплетена в різноманітні

відношення та взаємини, а значить, постійно перебуває в нерозривній внутрішній єдності

зі світом. Жодна з існуючих машин поки що не має такого тісного та глибокого зв’язку

з реальністю;

4) складною проблемою в процесі реалізації ШІ є ціннісний вимір людини. Будь-які

дії та ситуацїї людина оцінює не лише з позиції їх користі та практичності, але і з позиції

їх значущості та важливості для неї та інших. Необхідність створення моральних машин

зумовлена: а) страхом людства за своє майбутнє, адже розумні та могутні машини можуть

знищити людський вид; б) прагненням поглибити наші власні знання про природу людини.

Для реалізації моральних машин необхідно, щоб вони володіли свідомістю, інтенціональністю та свободою волі (Moor, 2006). Досі жодна машина не досягла такого рівня складності. Причиною цього є не лише технічні перешкоди, недосконалість методологічного

апарату, але й природа самих ціннісних норм, застосування та функціонування яких часто

залежить від ситуації та контексту (Dreyfus, 1972; Muehlhauser, Helm, 2012). Часто людський досвід взагалі важко однозначно описати в термінах «добре» чи «погано», оскільки

це пов’язано зі складністю, неоднозначністю, проблематичністю самої людської природи.

Людська поведінка настільки гнучка, що це створює проблеми під час спроби її машинного моделювання. Відповідно, постає питання, якими саме принципами повинна володіти

машина? Чи можливо технічно прописати всі можливі варіанти застосування тих самих

1 2

скачати