Systemy Question Answering

1
Systemy Question Answering

• Autor Piotr Jach

2
Systemy Question Answering

• Idea
• Troche historii
• Metody
• Przyklady systemów

3
Idea o co w ogóle chodzi?

• Idea systemów QA polega na uzyskiwaniu informacji
  na pytania zadane w naturalnym jezyku.
• System musi radzic sobie z szeroka gama róznych
  typów pytan, zarówno prostych, np. what, where,
  jak i definicji i hipotetycznych.
• Mozemy podzielic systemy na
• Closed-domain operujace na pytaniach z jakies
  waskiej dziedziny
• Open-domain odpowiedzi na niemal wszystko )

4
Troche historii

• Pierwsze systemy QA zostaly rozwiniete w 1960
  roku. Dwa wówczas najpopularniejsze to BASEBALL
  i LUNAR.
• Pierwszy odpowiadal na pytania dotyczace jednego
  sezonu w amerykanskiej lidze baseballa a drugi na
  temat próbek skal przywiezionych przez Apollo
  podczas misji ksiezycowych.

5
Troche historii cd.

• Dosc duzy rozwój w latach 70-tych i 80-tych.
• Powstal wtedy np. projekt LILOG dzialajacy w
  dziedzinie turystyki w niemieckich miastach.
• W póznych latach 90-tych Text Retrieval
  Conference (TREC) uruchomilo test dla systemów
  QA, który dziala do dzis. Systemy rywalizujace
  musza odpowiedziec na pytania z róznych dziedzin
  w tekstach, które co roku sa zmieniane. W 2004
  roku najlepszy system uzyskal 77 poprawnych
  odpowiedzi.

6
Metody

• Powierzchniowa uzywa slów kluczowych do
  znalezienia interesujacych zdan z uzyskanych
  dokumentów. Kolejnosc ustalana na podstawie cech
  skladniowych, np. kolejnosc wyrazów,
• Gleboka uzycie wielu kompleksowych metod NLP do
  lepszego zrozumienia pytania, szczególnie
  przydatne do bardziej zlozonych pytan, np. why?,
  how?, hipotezy itp.

7
AnswerBus QAS

• www.answerbus.com
• System otwarto domenowy oparty na pozyskiwaniu
  informacji na poziomie zdan
• Akceptuje pytania w szesciu jezykach angielskim,
  niemieckim, francuskim, hiszpanskim, wloskim i
  portugalskim
• Wynajduje odpowiedzi w internecie

8
AnswerBus QAS cd.

• W pozyskiwaniu informacji korzysta z
• Google
• Yahoo
• WiseNut
• AltaVista
• Yahoo News

9
(No Transcript)
10
AnswerBus QAS jak to dziala

• System pobiera od uzytkownika pytanie w jezyku
  naturalnym
• Prosty modul sprawdza, czy pytanie jest w jezyku
  angielskim
• Jesli nie, przesyla pytanie do mechanizmu
  tlumaczacego w Altaviscie

11
AnswerBus QAS dzialanie cd.

1. Wybór dwóch mechanizmów z pieciu do uzyskania
   imformacji. Formowanie specjalnych zapytan
   opartych o pytanie.
2. Kontakt z wyszukiwarka i pozyskanie dokumentów z
   czolówki listy trafien.
3. Wyodrebnienie zdan z dokumentów potencjalnie
   bedacych odpowiedzia.
4. Uszeregowanie odpowiedzi i zwrócenie czolowych
   linków do uzytkownika. Odpowiedzi zwracane sa w
   postaci zdan.

12
AnswerBus QAS wyodebnianie odpowiedzi

• Parsowanie dokumentów na zdania i ustalenie
  poprzez proces dopasowania wyrazów, czy dane
  zdanie jest kandydatem na odpowiedz.
• Klasyfikacja wyrazów w oryginalnym pytaniu lub
  uzyskanym zdaniu na wyrazy nie- i pasujace.

13
AnswerBus QAS wyodebnianie odpowiedzi cd.

• Do filtrowania uzyskanych zdan sluzy wzór

14
AnswerBus QAS - przyklady

• In which country is Bucharest located?
• Bucharest (Romanian Bucure ti ) is the capital
  city and industrial and commercial centre of
  Romania, located in the southeast of the country,
  on the D?mbovi a river.
• The capital Bucharest, located in the south, is
  the economic and political centre of the country.
  
• On the Bucharest Region' territory is located the
  largest country's airport (the International
  Otopeni Airport), which ensures the capital's
  flight lines with many towns or capitals from
  other countries from all the continents.
• The Inditex Group has been present in the country
  since last October, when Pull and Bear launched
  its first store, also located in Bucharest.
• The first four cities are somehow grouped
  together in the northwestern corner of the
  country, thus quite far from Bucharest located in
  the southeastern part of Romania.
• Bucharest (population 2.3 million, Romanian
  Bucure ti ) is the capital city and industrial
  and commercial centre of Romania , located in the
  southeast of the country, on the Dâmbovi a river
  .

15
AnswerBus QAS - przyklady

• Why is the species Galapagos giant tortoise
  endangered?
• Have students do research on endemic and
  introduced species in the Galapagos, explaining
  how one endemic species has been endangered by
  one or more introduced species.
• Galapagos giant tortoise - Geochelone spp. More
  Information - ARKive Search Homepage Species
  Global Reptiles Galapagos giant tortoise More
  Information
• Beck was not only himself an endangered species
  in the world of scientific collectors (he was
  placed in a class by himself in this regard), but
  he also played an important role in our knowledge
  of endangered species in the Galapagos
• Programs in the Galapagos National Park strongly
  mirror major emphases of biological research
  capabilities of the USGS (endangered species,
  introduced species management, GIS, and ecosystem
  management.
• This is why the Galapagos Tortoise is classified
  as an Endangered Species while the Aldabra is
  classified as Threatened.
• The Galapagos giant tortoise is endangered
  because sailors and whaling ships captured
  thousands of tortoises for adult shells and their
  eggs.

16
START QAS

• http//start.csail.mit.edu/
• START - SynTactic Analysis using Reversible
  Transformations
• Pierwszy oparty na Web QAS, w sieci od grudnia
  1993 roku. Rozwiniety przez Borisa Katza.
• Idea systemu jest zapewnienie uzytkownikowi tylko
  dokladnej informacji zamiast listy trafien.

17
START QAS cd.

• Obecnie system potrafi odpowiedziec na miliony
  angielskich pytan na temat
• Miejsc (miasta, panstwa, jeziora, pogoda,
  demografia, systemy ekonomiczne itp.)
• Filmów (tytuly, aktorzy itp.)
• Ludzi (daty ur., biografie)
• Definicji

18
START - dzialanie

• Oparte na tzw. "natural language
  annotation(NLA). Traktowanie zdan lub fraz w
  naturalnym jezyku jako opisy zawartosci
  skojarzonej z segmentami informacji.
• Komponent przetwarzajacy jezyk naturalny w
  Starcie sklada sie z dwóch modulów dzielacych te
  sama gramatyke.

19
START dzialanie cd.

• Pierwszy tzw. Understanding module analizuje
  tekst angielski i tworzy baze, która koduje
  informacje znaleziona w tekscie.
• Drugi modul generujacy, po uzyskaniu
  odpowiedniego segmentu bazy tworzy zdania.
• W polaczeniu z NLA moduly te tworza sprawny
  system uzyteczny np. w dostepie do informacji o
  multimediach.

20
START - przyklady

• gt What cities are within 250 miles of the
  capital of Italy?
• Using this information, I determined what cities
  are within 250 miles of Rome, Italy
• In Italy, the following cities are within 250
  miles of Rome
• Naples, Italy is 118 miles (189.90298 kilometers)
  from Rome.
• Florence, Italy is 143 miles (230.13666
  kilometers) from Rome.
• Pisa, Italy is 148 miles (238.18338 kilometers)
  from Rome.
• Bologna, Italy is 178 miles (286.4638 kilometers)
  from Rome.

21
START przyklady cd.

• gt Show me a metro map of Moscow.

22
AskEd QAS

• http//asked.jp/
• Projekt Eda Whittakera.
• W odróznieniu od innych systemów zastosowano tu
  czysto statystyczne, nie lingwistyczne podejscie
  do problemu. Bazuje na poszczególnych slowach.
• Przy takim podejsciu potrzebne jest uzycie
  ogromnej ilosci danych.

23
AskEd - dzialanie

• Zamiast konwertowania pytania do postaci w jakiej
  mozna odszukac informacje, system przeglada dane
  w poszukiwaniu tekstu, którego forma mniej wiecej
  pasuje do pytania i pozwala na uzyskanie
  odpowiedzi. Pozostaje problem, jakiego typu
  odpowiedzi oczekujemy, np. na pytanie who czy
  when, jednak obecnosc poprawnej odpowiedzi w
  wielu dokumentach skutecznie niweluje ten problem.

24
AskEd - przyklady

• HOW HIGH IS MOUNT EVEREST
• Mount Everest 2002 ... Route     Schedule  
    News     Everest History     Everest Statistics 
      Masthead   Mount Everest 2002 Welcome to the
  ... homepage of our "miniature" Mount ...
  http//www.everest-2002.de/home_e.html (explain)
  (anchors) Everest Trekking, Everest treking,
  Everest trek, Everest treks, Everest trekking,
  Nepal everest trek Everest Trekking, Everest
  treking, Everest trek, Everest treks, Everest
  trekking, Nepal everest trekking, Everest
  trekking Nepal, Everest treks, everesttreks,
  Everesttrek, Everesttrekking ...
  http//www.nepaltrekkinginfo.com/nepal/trekking/e
  verest/everest_trekking.html (explain) (anchors)
  Mount Everest-360 degree panorama view from Top
  - Climb Mt Everest - QTVR panoramic photo from
  summi ... panoramas. THE TOP Links Everest -
  Mount Everest by climbers, news Everest News,
  Where Everest Climbers Come for News ...
  http//www.panoramas.dk/fullscreen2/full22.html
  (explain) (anchors)

25
AskEd przyklady cd.

• HOW HIGH IS MOUNT EVEREST
• 1 29028 feet Mount Everest On Mount Everest you
  can climb up to 8848 meters high 29028 feet.2
  29035 feet Mount Everest _at_Everything2.com More
  recent calculations using GPS equipment reveal
  that Everest is 8850 meters 29035 feet high.3
  High Altitude 1997 Expedition Consultant Climbing
  Leader Indonesian National Everest Expedition
  1996 Principal High Altitude Guide Mount Everest
  Expedition.4 high winds Mount Everest Because
  of the high winds of Mount Everest at that time
  Maegan Carney abandoned her first summit
  attempt.5 high peaks Mount Everest
  Encyclopædia Britannica Like other high peaks in
  the region Mount Everest has long been revered by
  local.6 Exactly

26
BrainBoost

• http//www.brainboost.com/
• System tlumaczy pytanie na wiele zapytan, które
  zwiekszaja prawdopodobienstwo znalezienia
  odpowiedzi.
• Kilkaset czolowych wyszukanych stron jest
  czytanych.
• Znajduje odpowiedzi i szereguje w kolejnosci
  dopasowania zgodnie z technologia AnswerRank.

27
BrainBoost - przyklad

• Where is Bucharest located?
• The NH Bucharest is located in the heart of
  financial city and close to the central district,
  Piata Unirii and Casa Poporulul. Más información
  - .
• http//www.bookings.org/searchresults.es.html?aid
  303916landmark1953         Read More
• Bucharest Resources and Attractions This section
  will contain details of other resouces of
  interest to the traveller visiting Bucharest.
  This will include restaurants and tourist
  attractions. Location Bucharest is located in ,
  Bucuresti , Rumanía at 44.4333333 N - , 26.1 E
  (latitude, longitude) The local timezone is
  UTC0200 (EET - Eastern Europe Time) Nearest
  Airports to Bucharest Bucharest Baneasa - BBU (5
  miles) Bucharest Otopeni - OTP (5 miles) Craiova
  - CRA (113 miles) - Official Links - This section
  is reserved for community councils and local
  tourist boards.
• http//www.simplehotels.com/es/ro/bucharest/infor
  mation.html         Read More
• A Few Words about Bucharest. Bucharest is located
  in the southern part of the country, in the
  middle of the Romanian Plain. It stretches on a
  238 sq area and its population counts around
  2,300,000 inhabitants. Bucharest has been the
  center of numerous historical events and it has
  been mentioned for the first time in 1459, in a
  document issued by Vlad the Impeller.
• http//www.iaim.ro/en/eaae2005/travel_info      
    Read More

28
Inne QAS

• Question Answering Demo
• http//qa.wpcarey.asu.edu/
• Language Computer Power Answer
• http//www.languagecomputer.com/

29
Jeszcze raz linki ?

• http//www.answerbus.com
• http//start.csail.mit.edu/
• http//asked.jp/
• http//www.brainboost.com/
• http//qa.wpcarey.asu.edu/
• http//www.languagecomputer.com/
• TREC competition http//trec.nist.gov