Поиск информации в сети Интернет

Федеральное агентство по образованию 
 

Вологодский государственный технический университет 
 
 
 
 
 

Кафедра ИТ и С 
 
 

Контрольная работа

по информатике 

 «Поиск  информации в сети Интернет» 
 
 
 
 
 
 
 
 
 
 
 

 

Вологда

2009

 

СОДЕРЖАНИЕ 

Введение…………………………………………………………..…………...2

1. Информационные ресурсы сети Интернет……………………………….3
2. Типология методов поиска информации………………………................5
3. Технология поиска с использованием поисковых машин………………8

Заключение………………………………………………………………...….12

Список  литературы…………………………………...………………………13 

 

      Введение 

     Рано  или поздно, каждый пользователь Всемирной  паутины сталкивается с проблемой  поиска информации. Будь то реферат, курсовая работа либо документация к новой  стиральной машине, поиск этой информации может занять у вас от пяти минут до нескольких часов – все зависит от умения искать и находить нужные данные в Интернете. В этом случае нам на помощь приходят всевозможные поисковые машины, каталоги и базы знаний. Овладение эффективными методами и средствами поиска, обработки и использования информации дает большие возможности.

 

      1. Информационные  ресурсы сети Интернет 

     Благодаря повсеместному развитию и применению компьютерных технологий в настоящее время в той или иной электронной форме находится информация всех областей человеческой деятельности: наука, производство, коммерция, литература, развлечения и т.д. Сеть Интернет имеет совместимость с различными электронными сетями и базами данных и позволяет получить удобный доступ практически к любому виду информации. Для миллионов людей разных профессий, а особенно для учащихся, Интернет стал необходимым инструментом в работе и универсальным средством развлечения в часы досуга. В связи с этим возникает потребность в программных средствах, эффективно решающих проблемы поиска необходимой пользователю сети Интернет информации.

     Информационные  ресурсы, доступные через Интернет, огромны. Это десятки миллионов  документов, представленных различными способами, число которых постоянно увеличивается. В зависимости от способа представления, вида и характера информации разнятся и методы доступа к ней, поэтому, прежде чем рассматривать методы поиска, рассмотрим классификацию информационных ресурсов.

     По  принципу организации и использования  средства поиска можно разделить  на каталоги (справочники, директории) и поисковые машины.

     Каталоги

     Каталоги  являются справочниками, содержащими  списки адресов Интернет, сгруппированные  по определенным признакам. Как правило, они объединяются по тематике (наука, искусство, новости и т.д.), где каждая тема разветвляется на несколько подуровней.

     Особенность этих средств поиска информации состоит  в том, что создание структуры, базы данных и их постоянное обновление осуществляется "вручную", коллективом редакторов и программистов, и сам процесс поиска требует непосредственного участия пользователя, самостоятельно переходящего от ссылки к ссылке.

     Поисковые машины

     Действие  поисковых машин заключается  в постоянном последовательном исследовании всех узлов Интернет, доступных данной системе поиска, со всеми их связями и ответвлениями. В связи с постоянным обновлением информации машина поиска регулярно возвращается через определенный срок (порядка месяца) к уже изученным узлам, чтобы обнаружить и зарегистрировать изменения. Вся прочитанная информация индексируется, то есть создается специализированная база данных, в которой закодированы все исследованные системой страницы Интернет.

     При поступлении запроса от пользователя машина поиска рассматривает всю индексированную информацию и выдает список документов, соответствующих задаче поиска. Найденные документы ранжируются в зависимости от местоположения ключевых слов (в заголовке, в начале текста, в первых параграфах) и частоты их появления в тексте.

     Несмотря  на схожий принцип работы, машины поиска различаются по языкам запроса, зонам  поиска, глубине поиска внутри документа, методам ранжирования и приоритетов, поэтому применение разных поисковых  машин дает различные результаты. 

     2. Типология методов поиска 

     Более или менее серьезный подход к  любой задаче начинается с анализа  возможных методов ее решения. Поиск  информации в Интернете может  быть произведен по нескольким методам, значительно различающимся как  по эффективности и качеству поиска, так и по типу извлекаемой информации. В ряде случаев приходится использовать весьма трудоемкие методы - результат того стоит.

     Можно выделить следующие основные методы поиска информации в Интернете, которые, в зависимости от целей и задач  ищущего, используются по отдельности или в комбинации друг с другом:

     Непосредственный  поиск с использованием гипертекстовых ссылок

     Поскольку все сайты в пространстве WWW фактически оказываются связанными между собой, поиск информации может быть произведен путем последовательного просмотра связанных страниц с помощью браузера.

     Хотя  этот полностью ручной метод поиска выглядит полным анахронизмом в Сети, содержащей более 60 млн. узлов, "ручной" просмотр Web-страниц часто оказывается единственно возможным на заключительных этапах информационного поиска, когда механическое "копание" уступает место более глубокому анализу. Использование каталогов, классифицированных и тематических списков и всевозможных небольших справочников также относится к этому виду поиска.

     Использование поисковых машин

     Сегодня этот метод является одним из основных и фактически единственным при проведении предварительного поиска. Результатом  последнего может являться список ресурсов Cети, подлежащих детальному рассмотрению.

     Как правило, применение поисковых машин основано на использовании ключевых слов, которые передаются поисковым серверам в качестве аргументов поиска: что искать. Если делать все правильно, то формирование списка ключевых слов требует предварительной работы по составлению тезауруса.

     Поиск с применением  специальных средств

     Этот  полностью автоматизированный метод  может оказаться весьма эффективным  для проведения первичного поиска.

     Одна  из технологий этого метода основана на применении специализированных программ - спайдеров, которые в автоматическом режиме просматривают Web-страницы, отыскивая на них искомую информацию. Фактически это автоматизированный вариант просмотра с помощью гипертекстовых ссылок, описанный выше (поисковые машины для построения своих индексных таблиц используют похожие методы). Нет нужды говорить, что результаты автоматического поиска обязательно требуют последующей обработки.

     Применение  данного метода целесообразно, если использование поисковых машин  не может дать необходимых результатов (например, в силу нестандартности запроса, который не может быть адекватно задан существующими средствами поисковых машин). В ряде случаев этот метод может быть очень эффективен.

     Выбор между использованием спайдера или  поисковых серверов являет собой  вариант классического выбора между применением универсальных или специализированных средств.

     Анализ  новых ресурсов

     Поиск по новообразованным ресурсам может  оказаться необходимым при проведении повторных циклов поиска, поиска наиболее свежей информации или для анализа  тенденций развития объекта исследования в динамике.

     Другой  возможной причиной может явиться  то, что большинство поисковых  машин обновляет свои индексы  со значительной задержкой, вызванной  гигантскими объемами обрабатываемых данных, и эта задержка обычно тем  больше, чем менее популярна интересующая тема. Это соображение может оказаться весьма существенным при проведении поиска в узкоспециальной предметной области.  

 

      3. Технология поиска с использованием поисковых машин 

     Определение географических регионов поиска

     Поскольку проведение информационного поиска преследует практические цели - практическая ценность информационного ресурса может зависеть от географического расположения соответствующего источника.

     Составление тезауруса

     Для эффективного использования поисковых  серверов необходим список ключевых слов, организованный с учетом семантических отношений между ними, т.е. тезаурус. При составлении тезауруса необходимо предусмотреть обработку синонимов, омонимов и морфологических вариаций ключевых слов.

     Использование законов Зипфа

     Число, показывающее сколько раз встречается  слово в тексте, называется частотой вхождения слова. Если расположить  частоты по мере убывания и пронумеровать, то порядковый номер частоты называется ранг частоты. Вероятность обнаружения слова в тексте = частота вхождения слова / число слов в тексте. Зипф нашел, что если умножить вероятность обнаружения слова в тексте на ранг частоты, то получившаяся величина приблизительно постоянна для всех текстов на одном языке:

     С = (частота вхождения слов X ранг частоты) / число слов

     Это значит, что график зависимости ранга  от частоты - равносторонняя гипербола.

     Зипф  также установил, что зависимость  количества слов с данной частотой от частоты - также гипербола и  постоянная для всех текстов в  пределах одного языка.

     Что можно извлечь из этих законов? Исследования вышеуказанных зависимостей для  различных текстов показали, что  наиболее значимые слова текста лежат  в средней части диаграммы, так  как слова с максимальной частотой как правило являются предлогами, частицами, местоимениями, в английском языке - артиклями (так называемые "стоп-слова"), а редко встречающиеся слова в большинстве случаев не имеют решающего значения. Основываясь на этой закономерности, можно предложить следующую методику.

     Составление списка ключевых слов

     Для составления оптимального набора ключевых слов используют процедуру, основанную на применении законов Зипфа, которая заключается в следующем: берут любой текст-источник, близкий к искомой теме, т.е. "образец", и анализируют его, выделяя значимые слова. В качестве текста-источника может служить книга, статья, Web-страница, любой другой документ. Анализ текста производится таким образом:

• Удаление из текста стоп-слов.
• Вычисление частоты вхождения каждого слова и составление списка, в котором слова расположены в порядке убывания их частоты.
• Выбор диапазона частот, лежащего в середине списка, и отбор из этого диапазона слов, наиболее полно соответствующих смыслу текста.

     Составление запроса к поисковой машине в  форме перечисления отобранных таким образом ключевых слов, связанных логическим оператором ИЛИ (OR). Запрос в таком виде позволяет обнаружить тексты, в которых встречается хотя бы одно из перечисленных слов.

     Число документов, полученных в результате поиска по этому запросу, может быть огромно. Однако, благодаря ранжированию документов (расположению их в порядке убывания частоты вхождения слов запроса в документ), применяемому в большинстве поисковых машин, на первых страницах списка практически все документы окажутся релевантными, причем документ-источник может находиться далеко от начала.

     Более адекватной представляется структура  тезауруса в виде так называемых семантических срезов, где для  каждого основного термина отдельно строится таблица сопутствующих  слов и слов шумовых (которые не должны встречаться в источнике), - некоторые поисковые машины (AltaVista) позволяют это использовать. Таким образом, вместо единой иерархической структуры терминов мы получаем пакет таблиц, которые могут расширяться и модифицироваться отдельно.