Інформаційно-пошукова система

[ виправити ] текст може містити помилки, будь ласка перевіряйте перш ніж використовувати.


Нажми чтобы узнать.
скачати

Інформаційно-пошукова система

Розглянемо постановку задачі пошуку в загальному вигляді. Для цього нам необхідно відповісти на три питання: що шукати, тобто, які джерела інформації, де шукати (місця розміщення цих джерел) і як шукати (які інструменти для цього використовувати).

Які основні джерела інформації, представлені в Інтернеті?

Це документи WWW, статті у групах новин і списках розсилки, файли в бібліотеках файлів, довідники адресної інформації організацій і людей (електронна пошта, адреса, телефон), статті в тематичних базах даних, енциклопедіях.

Де ці джерела інформації розміщуються?

Це такі популярні ресурси Інтернет, як WWW, групи новин, списки розсилки і FTP-сервери. Безумовно, можна шукати потрібні джерела інформації вручну, дізнаватися адреси із спеціалізованих журналів з ​​інформатики та Інтернету, використовувати спеціальні паперові довідники з класифікованими по категоріях адресами. Однак для такого мінливого простору як Інтернет необхідно навчитися користуватися спеціальними інструментами, мета яких - збирати дані про інформаційні ресурси та надавати користувачам послугу швидкого пошуку.

ІПС (інформаційно-пошукова система) - це система, що забезпечує пошук і відбір необхідних даних у спеціальній базі з описами джерел інформації (індексі) на основі інформаційно-пошукової мови і відповідних правил пошуку.

Головним завданням будь-якої ІПС є пошук інформації релевантної інформаційним потребам користувача. Дуже важливо в результаті проведеного пошуку нічого не втратити, тобто знайти всі документи, пов'язані з запитом, і не знайти нічого зайвого. Тому вводиться якісна характеристика процедури пошуку - релевантність.

Релевантність - це відповідність результатів пошуку сформульованому запитом. Далі ми будемо, в основному, розглядати ІПС для всесвітньої павутини (WWW). Основними показниками ІПС для WWW є просторовий масштаб і спеціалізація. По просторовому масштабом ІПС можна розділити на локальні, глобальні, регіональні та спеціалізовані. Локальні пошукові системи можуть бути розроблені для швидкого пошуку сторінок в масштабі окремого сервера. Регіональні ІПС описують інформаційні ресурси певного регіону, наприклад, російськомовні сторінки в Інтернеті. Глобальні пошукові системи на відміну від локальних прагнуть обійняти неосяжне - по можливості найбільш повно описати ресурси всього інформаційного простору мережі Інтернет.

У загальному випадку, можна виділити наступні пошукові інструменти для WWW: каталоги, пошукові системи, Автономні пошукові агенти.

Каталог

Каталог - пошукова система з класифікованими за темами списком анотацій з посиланнями на web-ресурси. Класифікація, як правило, проводиться людьми. Пошук в каталозі дуже зручний і проводиться за допомогою послідовного уточнення тем. Тим не менш, каталоги підтримують можливість швидкого пошуку певної категорії або сторінки за ключовими словами за допомогою локальної пошукової машини. База даних посилань (індекс) каталогу зазвичай має обмежений обсяг, заповнюється вручну персоналом каталогу. Деякі каталоги використовують автоматичне оновлення індексу. Результат пошуку в каталозі представляється у вигляді списку, що складається з короткого опису (анотації) документів з гіпертекстової посиланням на першоджерело.

Адреси популярних каталогів:

Зарубіжні каталоги:

Yahoo - www.yahoo.com Magellan - www.mckinley.com

Російські каталоги:

@ Rus - www.aport.ru Weblist - www.weblist.ru Равлик - www.ulitka.ru

Пошукова машина

Пошукова машина - пошукова система з формованої роботом базою даних, яка містить інформацію про інформаційні ресурси. Відмінною рисою пошукових машин є той факт, що база даних, що містить інформацію про Web-сторінках, статтях Usenet і т.д., формується програмою-роботом. Пошук в такій системі проводиться за запитом, що складається користувачем, що складається з набору ключових слів або фрази, укладеної в лапки. Індекс формується і підтримується в актуальному стані роботами-індексіровщікамі. В описі документа найчастіше міститься кілька перших речень або витяги з тексту документа з виділенням ключових слів. Як правило, вказана дата оновлення (перевірки) документа, його розмір у кілобайтах, деякі системи визначають мову документа і його кодування (для російськомовних документів). Що можна робити з отриманими результатами? Якщо назва та опис документа відповідає вашим вимогам, можна негайно перейти до його першоджерела по посиланню. Це зручніше робити в новому вікні, щоб мати можливість далі аналізувати результати видачі. Багато пошукових систем дозволяють проводити пошук в знайдених документах, причому ви можете уточнити ваш запит введенням додаткових термінів. Якщо інтелектуальність системи висока, вам можуть запропонувати послугу пошуку схожих документів. Для цього ви обираєте особливо сподобався документ і вказуєте його системі в якості зразка для наслідування. Однак, автоматизація визначення схожості - вельми нетривіальна задача, і часто ця функція працює неадекватно вашим надіям. Деякі пошуковики дозволяють провести пересортіровка результатів. Для економії вашого часу можна зберегти результати пошуку у вигляді файлу на локальному диску для подальшого вивчення в автономному режимі.

Адреси найбільш популярних пошукових машин за кордоном і в Росії.

Зарубіжні пошукові машини:

Google - www.google.com Altavista - www.altavista.com Excite - www.excite.com HotBot - www.hotbot.com Nothern Light - www.northernlight.com Go (Infoseek) - www.go.com (infoseek.com ) Fast - www.alltheweb.com

Російські пошукові машини:

Яndex - www.yandex.ru (або www.ya.ru) Ремблер - www.rambler.ru Апорт - www.aport.ru

Метапоісковая машина

Метапоісковая система. Зверніть увагу на те, що різні пошукові системи описують різну кількість джерел інформації в Інтернет. Тому не можна обмежуватися пошуком лише в одній із зазначених пошукових системах. Тепер познайомимося з інструментами пошуку, які не формують власний індекс, але вміють використовувати можливості інших пошукових систем. Це Автономні пошукові агенти (пошукові служби) - системи, здатні послати запити користувача одночасно декількох пошукових серверів, потім об'єднати отримані результати і представити їх користувачеві у вигляді документа з посиланнями.

Адреси відомих Автономні пошукові агенти систем:

MetaCrawler - www.metacrawler.com SavvySearch - www.savvysearch.com

Пошук джерел інформації

Обговоримо проблему пошуку такого джерела інформації, як статті в групах новин. Інструментами пошуку в даному випадку можуть бути розглянуті пошукові машини WWW, які індексують не тільки простір WWW, але і статті в телеконференціях і мають спеціальний режим пошуку саме в цьому ресурсі. Пошук в групах новин підтримує, наприклад, пошуковий сервер Altavistа. Слід зазначити, що пошукові системи WWW вельми оперативно індексують групи новин і містять інформацію про статті, реально існують в мережі. Для пошуку в архівах новин існую спеціалізовані системи, найвідомішою з яких є система Deja (www.deja.com). Ця система дозволяє проводити як пошук окремих статей, що містять введений термін, так і пошук певних груп новин, присвячених обговоренню заданої теми. Можна зареєструватися в Deja і підписатися на певні групи новин.

Тепер розглянемо інструменти, що дозволяють проводити пошук файлів. Багато пошукових систем WWW стали надавати послугу пошуку мультимедійних файлів (Altavista, Aport). Для цього зовсім не потрібно знати спеціальні оператори, а досить перейти з домашньої сторінки по посиланнях Картинки (Images), MP3/Audio або Video до спеціального режиму пошуку. Пошук проводиться по можливому імені файлу або за текстом в коментарі до посиланням на мультимедійний файл.

Що стосується пошуку програмного забезпечення, у всесвітній павутині існують пошукові Web-сервери з колекціями умовно-безкоштовного ПЗ, деякі з них спеціалізуються на пошук програмного забезпечення для Інтернету або для конкретної операційної системи. Ці системи в кінцевому підсумку приведуть вас до конкретного сервера, з якого і можна завантажити шуканий програмний продукт. Слід згадати сервери Archie, також надають послугу пошуку файлів на FTP-серверах, проте користуватися Web-серверами набагато зручніше.

Розглянемо пошукові інструменти для пошуку адресної інформації. Введемо поняття Білого (White) і Жовтого (Yellow) пошуку.

White-пошук - пошук адресної інформації за заздалегідь відомим власного імені адресата (ім'я людини чи організації)

Yellow-пошук - пошук власного імені за додатковими ознаками (за родом діяльності, за географічною ознакою), а потім пошук його адресної інформації.

Зазвичай Yellow Pages системи фактично відразу включають в себе і White Pages - у знайденого адресата відразу видно його телефон та поштову адресу. Крім того, деякі Yellow Pages дозволяють шукати просто в алфавітному списку своїх абонентів (white-пошук). З іншого боку, White pages також містять елементи yellow-пошуку - крім завдання власного імені вони зазвичай дозволяють вказати назву міста, штату і інші, що звужують пошук, дані (що необхідно в разі багатьох однофамільців). Можливо, саме тому багато on-line телефонні довідники, що виконують, фактично white-пошук, називають себе Yellow pages.

Тут наведено адреси Web-систем для пошуку адресної інформації для людей та організацій.

Пошук людей:

  • Пошук людей на Yahoo (http://people.yahoo.com).

  • Система WhoWhere (www.whowhere.com).

  • Система Bigfoot (www.bigfoot.com).

Пошук організацій: розділ Жовті сторінки (Yellow pages) на пошукових системах спеціалізовані сервера www.yellowpages.com - для пошуку в США та інших країнах.

Користувачам Internet вже добре відомі назви таких сервісів і інформаційних служб, як Lycos, AltaVista, Yahoo, OpenText, InfoSeek, а без послуг цих систем сьогодні практич но не можна знайти що-небудь корисне в морі інформаційних ресурсів Мережі. Але що собою представляють ці сервіси зсередини, як вони влаштовані, чому результат пошуку в терабайтних масивах інформації здійснюється досить швидко і як влаштовано ранжування документів при видачі - все це звичайно залишається за кадром. Тим не менш без правильного планування стратегії пошуку, знайомства з основними положеннями теорії ІПС (інформаційно-пошукових систем), що нараховує вже двадцятирічну історію, важко ефективно використовувати навіть такі скорострільні сервіси, як AltaVista або Lycos.

Інформаційно-пошукові системи з'явилися на світ досить давно. Теорії і практиці побудови таких систем присвячено безліч статей, основна маса яких припадає на кінець 70-х - початок 80-х років. Серед вітчизняних джерел слід виділити науково-технічний збірник "Науково-технічна інформація. Серія 2", який виходить до цих пір. Російською мовою видано так само і "біблія" по розробці ІПС - "Динамічні бібліотечно-інформаційні системи" Ж. Солтона [1], у якій розглянуті основні принципи побудови інформаційно-пошукових систем і моделювання процесів їх функціонування. Таким чином, не можна сказати, що з появою Internet і бурхливим входженням його в практику інформаційного забезпечення з'явилося щось принципово нове, чого не було раніше. Якщо бути точним, то ІПС в Internet - це визнання того, що ні ієрархічна модель Gopher, ні гіпертекстова модель World Wide Web ще не вирішують проблему пошуку інформації у великих обсягах різнорідних документів. І на сьогоднішній день немає іншого способу швидкого пошуку даних, окрім пошуку за ключовими словами. При використанні ієрархічної моделі Gopher доводиться досить довго бродити по дереву каталогів, поки не зустрінеш потрібну інформацію. Ці каталоги повинні кимось підтримуватися, і при цьому їх тематичне розбиття має збігатися з інформаційними потребами користувача. Враховуючи анархічність Internet і величезна кількість всіляких інтересів у користувачів Мережі, зрозуміло, що комусь може й не пощастити і в мережі не буде каталогу, що відображає конкретну предметну область. Саме з цієї причини для безлічі серверів Gopher, званого GopherSpace була розроблена інформаційно-пошукова програма Veronica (Very Easy Rodent-Oriented Net-wide Index of Computerized Archives).

Аналогічне розвиток подій спостерігається і в World Wide Web. Власне ще у 1988 році в спеціальному випуску журналу "Communication of the ACM" [2] серед інших проблем розробки гіпертекстових систем та їх використання Франк Халаза назвав це як пріоритетне завдання для наступного покоління систем цього типу назвав проблему організації пошуку інформації у великих гіпертекстових мережах. До цих пір багато ідей, висловлені в тій статті, не знайшли ще своєї реалізації. Природно, що система, запропонована Бернерсом-Лі [3] і отримала таке широке поширення в Internet, повинна була зіткнутися з тими ж проблемами, що і її локальні попередники. Реальне підтвердження цьому було продемонстровано на другій конференції з World Wide Web восени 1994 року, на якій були представлені доповіді про розробку інформаційно-пошукових систем для Web, а система World Wide Web Worm, розроблена Олівером МакБрайном з Університету Колорадо, отримала приз як найкращий навігаційне засіб . Слід також зазначити, що все-таки довге життя судилося аж ніяк не дивним програмами талановитих одинаків, а засобам, що є результатом планового і послідовного руху наукових і виробничих колективів до поставленої мети. Рано чи пізно етап досліджень закінчується, і настає етап експлуатації систем, а це вже зовсім інший рід діяльності. Саме така доля чекала два інших проекти, представлених на тій же конференції: Lycos, підтримуваний компанією Microsoft, і WebCrawler, що став власністю America On-line.

Розробка нових інформаційних систем для Web не завершена. Причому як на стадії написання комерційних систем, так і на стадії досліджень. За минулі два роки знятий тільки верхній шар можливих рішень. Проте багато проблем, які ставить перед розробниками ІПС Internet, не вирішені до цих пір. Саме цією обставиною і викликана поява проектів типу AltaVista компанії Digital [4], головною метою якого є розробка програмних засобів інформаційного пошуку для Web і підбір архітектури для інформаційного сервера Web.

Архітектура сучасних ІПС для WWW

Перш ніж описати проблеми побудови інформаційно-пошукових систем Web та шляхи їх вирішення розглянемо типову схему такої системи. У різних публікаціях, присвячених конкретних систем, наприклад [5,6], наводяться схеми, які відрізняються один від одного тільки способом застосування конкретних програмних рішень, а не принципом організації різних компонентів системи. Тому розглянемо цю схему на прикладі, взятому з роботи [6] (рис. 1).

Малюнок 1. Типова схема інформаційно-пошукової системи.

Client (клієнт) на цій схемі - це програма перегляду конкретного інформаційного ресурсу. Найбільш популярні сьогодні мультипротокольні програми типу Netscape Navigator. Така програма забезпечує перегляд документів WWW, Gopher, Wais, FTP-архівів, поштових списків розсилки і груп новин Usenet. У свою чергу всі ці інформаційні ресурси є об'єктом пошуку інформаційно-пошукової системи.

User interface (призначений для користувача інтерфейс) - це не просто програма перегляду, в разі інформаційно-пошукової системи під цим словосполученням розуміють також спосіб спілкування користувача з пошуковим апаратом: системою формування запитів і переглядів результатів пошуку.

Search engine (пошукова машина) - служить для трансляції запиту на інформаційно-пошуковому мовою (ІПМ), у формальний запит системи, пошуку посилань на інформаційні ресурси Мережі і видачі результатів цього пошуку користувачеві.

Index database (індекс бази даних) - індекс, який є основним масивом даних ІПС і служить для пошуку адреси інформаційного ресурсу. Архітектура індексу влаштована таким чином, щоб пошук відбувався максимально швидко і при цьому можна було б оцінити цінність кожного з знайдених інформаційних ресурсів мережі.

Queries (запити користувача) - зберігаються в його (користувача) особистій базі даних. На налагодження кожного запиту йде досить багато часу, і тому надзвичайно важливо запам'ятовувати запити, на які система дає хороші відповіді.

Index robot (робот-індексіровщік) - служить для сканування Internet та обслуговування бази даних індексу в актуальному стані. Ця програма є основним джерелом інформації про стан інформаційних ресурсів мережі.

WWW sites - це весь Internet або точніше - інформаційні ресурси, перегляд яких забезпечується програмами перегляду.

Розглянемо тепер призначення і принципу побудови кожного з цих компонентів детальніше і визначимо, у чому відмінність даної системи від традиційної ІПС локального типу.

Інформаційні ресурси та їх подання до ІПС

Як видно з рис. 1, документальним масивом ІПС Internet є все безліч документів шести основних типів: WWW-сторінки, Gopher-файли, документи Wais, записи архівів FTP, новини Usenet і статті поштових списків розсилки. Все це досить різнорідна інформація, яка представлена ​​у вигляді різних, ніяк неузгоджених документів один з одним форматів даних: тексти, графічна та аудіоінформація і взагалі все, що є у зазначених сховищах. Природно виникає питання - як інформаційно-пошукова система повинна з усім цим працювати?

У традиційних системах використовується поняття пошукового образу документа - ПІД. Зазвичай, цим терміном позначають щось, що заміняє собою документ і використовується при пошуку замість реального документа. Пошуковий образ є результатом застосування деякої моделі інформаційного масиву документів до реального масиву. Найбільш популярною моделлю є векторна модель [7], в якій кожному документу приписується список термінів, найбільш адекватно відображають його зміст. Якщо бути більш точним, то документом приписується вектор розмірності, що дорівнює числу термінів, якими можна скористатися при пошуку. При булевої векторної моделі елемент вектора дорівнює 1 або 0, в залежності від наявності або відсутності терміну ПІД. У більш складних моделях терміни зважуються - елемент вектора дорівнює не 1 або 0, а деякого числа (вазі), що відбиває відповідність даного терміна документу. Саме остання модель стала найбільш популярною в ІПС Internet [4,6,7].

Взагалі кажучи, існують і інші моделі опису документів: імовірнісна модель інформаційних потоків та пошуку і модель пошуку в нечітких множинах [7]. Не вдаючись у подробиці, має сенс звернути увагу на те, що поки тільки лінійна модель застосовується в системах Lycos, WebCrawler, AltaVista, OpenText і AliWeb. Однак ведуться дослідження по застосуванню та інших моделей, результати яких відображені в роботах [4, 6]. Таким чином, перше завдання, яке повинна вирішити ІПС, - це приписування списку ключових слів документа або інформаційного ресурсу. Саме ця процедура і називається індексуванням. Часто, однак, індексуванням називають складання файлу інвертованого списку, в якому кожного терміна індексування ставиться у відповідність список документів у яких він зустрічається. Така процедура є лише приватним випадком, а точніше, технічним аспектом створення пошукового апарату ІПС. Проблема, пов'язана з індексацією, полягає в тому, що приписування пошукового образу документа або інформаційного ресурсу спирається на уявлення про словник, з якого ці терміни вибираються, як про фіксовану сукупності термінів. У традиційних системах існувало розбиття на системи з контрольованим словником і системи з вільним словником. Контрольований словник припускав ведення деякої лексичної бази даних, додавання термінів у яку вироблялося адміністратором системи, і всі нові документи могли бути заіндексувати тільки тими термінами, які були в цій базі даних. Вільний словник поповнювався автоматично в міру появи нових документів. Однак на момент актуалізації словник також фіксувався. Актуалізація передбачала повне перезавантаження бази даних. У час цього оновлення перевантажували самі документи, і оновлювався словник, а після його поновлення проводилася переіндексація документів. Процедура актуалізації займала досить багато часу і доступ до системи в момент її актуалізації закривався.

Тепер уявімо собі можливість такої процедури в анархічною Internet, де ресурси з'являються і зникають щодня. При створенні програми Veronica для GopherSpace передбачалося, що всі сервери повинні бути зареєстровані, і таким чином вівся облік наявності або відсутності ресурсу. Veronica раз на місяць перевіряла наявність документів Gopher і оновлювала свою базу даних ПІД для документів Gopher. В World Wide Web нічого подібного немає. Для вирішення цього завдання використовуються програми сканування мережі або роботи-індексіровщікі [8]. Розробка роботів - це досить нетривіальне завдання; існує небезпека зациклення робота або її потрапляння на віртуальні сторінки. Робот переглядає мережу, знаходить нові ресурси, приписує їм терміни і поміщає в базу даних індексу. Головне питання полягає в тому, що за терміни приписувати документами, звідки їх брати, адже низка ресурсів взагалі не є текстом. Сьогодні роботи зазвичай використовують для індексування наступні джерела для поповнення своїх віртуальних словників: гіпертекстові посилання, заголовки, назви (H1, H2), анотації, списки ключових слів, повні тексти документів, а також повідомлення адміністраторів про своїх Web-сторінках [9]. Для індексування telnet, gopher, ftp, нетекстової інформації використовуються головним чином URL, для новин Usenet і поштових списків поля Subject і Keywords. Найбільший простір для побудови ПІД дають HTML документи. Однак не слід думати, що всі терміни з перерахованих елементів документів потрапляють в їх пошукові образи. Дуже активно застосовуються списки заборонених слів (stop-words), які не можуть бути вжиті для індексування, загальних слів (прийменники, спілки тощо). Таким чином навіть те, що в OpenText, наприклад, називається повнотекстових індексуванням реально є вибором слів з ​​тексту документа і порівнянням з набором різних словників, після якого термін потрапляє в ПОД, а потім і в індекс системи. Для того щоб не роздувати словників та індексів (індекс системи Lycos вже сьогодні дорівнює 4 Тбайт), застосовується таке поняття, як вага терміна [10]. Документ зазвичай індексується через 40 - 100 найбільш "важких" термінів.

Індекс пошуку

Після того як ресурси заіндексувати і система склала масив ПІД, починається побудова пошукового апарату. Цілком очевидно, що лобовій перегляд файлу або файлів ПІД займе багато часу, що абсолютно не прийнятно для інтерактивної системи WWW. Для прискорення пошуку будується індекс, яким в більшості систем є набір пов'язаних між собою файлів, орієнтованих на швидкий пошук даних за запитом. Структура і склад індексів різних систем можуть відрізнятися один від одного і залежать від багатьох чинників: розмір масиву пошукових образів, інформаційно-пошуковий мова, розміщення різних компонентів системи і т.п. Розглянемо структуру індексу на прикладі системи [6], для якої можна реалізовувати не тільки примітивний булевої, але і контекстний і зважений пошук, а також ряд інших можливостей, які відсутні у багатьох пошукових системах Internet, наприклад Yahoo. Індекс розглянутої системи складається з таблиці ідентифікаторів сторінок (page-ID), таблиці ключових слів (Keyword-ID), таблиці модифікації сторінок, таблиці заголовків, таблиці гіпертекстових зв'язків, інвертованого (IL) і прямого списку (FL).

Page-ID відображає ідентифікатори сторінок в їх URL, Keyword-ID - кожне ключове слів в унікальний ідентифікатор цього слова, таблиця заголовків - ідентифікатор сторінки в заголовок сторінки, таблиця гіпертекстових посилань - ідентифікатор сторінок в гіпертекстове посилання на цю сторінку. Інвертований список ставить у відповідність кожному ключовому слову документа список пар - ідентифікатор сторінки, позиція слова в сторінці. Прямий список - це масив пошукових образів сторінок. Всі ці файли так чи інакше використовуються при пошуку, але головним серед них є файл інвертованого списку. Результат пошуку в даному файлі - це об'єднання і / або перетин списків ідентифікаторів сторінок. Результуючий список, який перетворюється в список заголовків, забезпечених гіпертекстовими посиланнями повертається користувачеві в його програму перегляду Web. Для того щоб швидко шукати записи інвертованого списку, над ним надбудовується ще декілька файлів, наприклад, файл буквених пар із зазначенням записів інвертованого списку, що починаються з цих пар. Крім цього, застосовується механізм прямого доступу до даних - хешування. Для оновлення індексу використовується комбінація двох підходів. Перший можна назвати корекцією індексу "на ходу" за допомогою таблиці модифікації сторінок. Суть такого рішення досить проста: стара запис індексу посилається на нову, яка і використовується при пошуку. Коли число таких посилань стає достатнім для того, щоб відчути це при пошуку, то відбувається повне оновлення індексу - його перезавантаження. Ефективність пошуку в кожній конкретній ІПС визначається виключно архітектурою індексу. Як правило, спосіб організації цих масивів є "секретом фірми" і її гордістю. Для того щоб переконатися в цьому, досить почитати матеріали OpenText [11].

Інформаційно-пошуковий мову системи

Індекс - це тільки частина пошукового апарату, прихована від користувача. Другою частиною цього апарату є інформаційно-пошуковий мова (ІПМ), що дозволяє сформулювати запит до системи в простій і наочній формі. Вже давно залишилася позаду романтика створення ІПМ, як природної мови, - саме цей підхід використовувався в системі Wais на перших стадіях її реалізації. Якщо навіть користувачеві пропонується вводити запити на природній мові, то це ще не означає, що система буде здійснювати семантичний розбір запиту користувача. Проза життя полягає в тому, що зазвичай фраза розбивається на слова, з яких видаляються заборонені і загальні слова, іноді проводиться нормалізація лексики, а потім всі слова зв'язуються або логічним AND, або OR. Таким чином, запит типу:

> Software that is used on Unix Platform

буде перетворений в:

> Unix AND Platform AND Software

що буде означати приблизно таке: "Знайди всі документи, в яких слова Unix, Platform і Software зустрічаються одночасно".

Можливі і варіанти. Так, в більшості систем фраза "Unix Platform" буде визначена як ключова фраза і не буде поділятися на окремі слова. Інший підхід полягає в обчисленні ступеня близькості між запитом і документом. Саме цей підхід використовується в Lycos. У цьому випадку відповідно до векторної моделлю подання документів і запитів обчислюється їх міра близькості. Сьогодні відомо близько дюжини різних мір близькості. Найбільш часто застосовується косинус кута між пошуковим чином документа і застосування. Зазвичай ці відсотки відповідності документа запиту і видаються в якості довідкової інформації при списку знайдених документів.

Найбільш розвиненим мовою запитів із сучасних ІПС Internet має Alta Vista. Крім звичайного набору AND, OR, NOT ця система дозволяє використовувати ще й NEAR, що дозволяє організувати контекстний пошук. Всі документ в системі розбиті на поля, тому в запиті можна вказати, в якій частині документа користувач сподівається побачити ключове слово: посилання, заголовок, анотація тощо Можна також задавати полі ранжирування видачі та критерій близькості документів запитом.

Інтерфейс системи

Важливим чинником є вид представлення інформації у програмі-інтерфейсі. Розрізняють два типи інтерфейсних сторінок: сторінки запитів і сторінки результатів пошуку.

При складанні запиту до системи використовують або меню - орієнтований підхід, або командний рядок. Перший дозволяє ввести список термінів, зазвичай розділяються пробілом, і вибрати тип логічного зв'язку між ними. Логічний зв'язок поширюється на всі терміни. На наведеній на рис. 1 схемою є збережені запити користувача - у більшості систем це просто фраза на ІПМ, яку можна розширити за рахунок додавання нових термінів і логічних операторів. Але це тільки один спосіб використання збережених запитів, званий розширенням або уточненням запиту. Для виконання цієї операції традиційна ІПС зберігає не запит як такої, а результат пошуку - список ідентифікаторів документів, який об'єднується / перетинається зі списком, отриманим при пошуку документів по нових термінів. На жаль, збереження списку ідентифікаторів знайдених документів в WWW не практикується, що було викликано особливістю протоколів взаємодії програми-клієнта і сервера, що не підтримують сеансовий режим роботи.

Отже, результат пошуку в базі даних ІПС - це список покажчиків на задовольняють запиту документи. Різні системи представляють цей список по-різному. У деяких видається тільки список посилань, а в таких, як Lycos, Alta Vista і Yahoo, дається ще й короткий опис, який запозичується небудь з заголовків, або з тіла самого документа. Крім цього, система повідомляє, на скільки знайдений документ відповідає запиту. В Yahoo, наприклад, це кількість термінів запиту, що містяться в ПОД, відповідно до якого ранжирується результат пошуку. Система Lycos видає міру відповідності документа запиту, за якою здійснюється ранжування.

При огляді інтерфейсів та засобів пошуку не можна пройти повз процедури корекції запитів за релевантністю [7]. Релевантність - це міра відповідності знайденого системою документа потреби користувача. Розрізняють формальну релевантність та реальну. Першу обчислює система, і на підставі чого ранжирується вибірка знайдених документів. Друга - це оцінка самим користувачем знайдених документів. Деякі системи мають для цього спеціальне поле [6], де користувач може відзначити документ як релевантний. При наступній пошукової ітерації запит розширюється термінами цього документа, а результат знову ранжирується. Так відбувається до тих пір, поки не наступить стабілізація, що означає, що нічого кращого, ніж отримана вибірка, від даної системи не доб'єшся.

Крім посилань на документи в списку, отриманому користувачем, можуть виявитися посилання на частини документів або на їхні поля. Це відбувається при наявності посилань типу http://host/path # mark або посилань за схемою WAIS. Можливі посилання і на скрипти, але зазвичай такі посилання роботи пропускають, і система їх не індексує. Якщо з http-посиланнями всі більш-менш зрозуміло, то посилання WAIS - це набагато складніші об'єкти. Справа в тому, що WAIS реалізує архітектуру розподіленої інформаційно-пошукової системи, при якій одна ІПС, наприклад Lycos, будує пошуковий апарат над пошуковим апаратом іншої системи - WAIS. При цьому сервери WAIS мають свої власні локальні бази даних. При завантаженні документів в WAIS адміністратор може описати структуру документів, розбивши їх на поля, і зберігати документи у вигляді одного файлу. Індекс WAIS буде посилатися на окремі документи і їхні поля як на самостійні одиниці зберігання, програма перегляду ресурсів Internet в цьому випадку повинна вміти працювати з протоколом WAIS, щоб отримати доступ до цих документів.

Висновок

В оглядовій статті були розглянуті основні елементи інформаційно-пошукових систем та принципи їх побудови. Сьогодні ІПС є найбільш потужним механізмом пошуку мережевих інформаційних ресурсів Internet. На жаль, в російському секторі Internet поки не спостерігається активного вивчення цієї проблеми за винятком, може бути, проекту LIBWEB, фінансованого РФФД і системи "Павук", яка працює недостатньо надійно. Найбільшим досвідом розробки такого сорту систем безумовно має ВІНІТІ, але тут робота зосереджена поки на розміщенні своїх власних ресурсів у Мережі, що принципово відрізняється від інформаційно-пошукових систем Internet типу Lycos, OpenText, Alta Vista, Yahoo, InfoSeek і т.п. Здавалося б, що така робота могла бути зосереджена в рамках таких проектів, як Росія On-line компанії SovamTeleport, але тут ми поки спостерігаються посилання на чужі пошукові машини. Розвиток ІПС для Internet в США почалося два роки тому, з огляду на вітчизняні реалії і темпи розвитку технологій Мережі в Росії, можна сподіватися, що у нас ще все попереду.

Додати в блог або на сайт

Цей текст може містити помилки.

Програмування, комп'ютери, інформатика і кібернетика | Реферат
74кб. | скачати


Схожі роботи:
Інформаційно Пошукова система
Інформаційно-довідкова система 2
Інформаційно довідкова система
Інформаційно-аналітична система Аптека
Інформаційно-аналітична система Казанського вокзалу
Сучасна соціально економічна система в теорії інформаційно
Інформаційно довідкова система Пристрій персонального комп`ютера
Автоматизована інформаційно-аналітична система Міністерства фінансів України
Інформаційно-довідкова система Пристрій персонального комп`ютера
© Усі права захищені
написати до нас
Рейтинг@Mail.ru