Kontroll-kunnskap

1
(No Transcript)
2
KUNNSKAPSBASERTE METODER
- UTVIKLINGSTRENDER
Kontroll-kunnskap
Heuristiske
Spesifikke
regler
case
Dyp kunnskap
Integrerte systemer
(f.eks. SOAR, CREEK, META-AQUA)
- totalarkitekturer for intelligent
problemløsning
3

En kritikk av kunnskapsbaserte metoder




Mennesker representerer
sin
kunnskap i maskinen,

den kan defor ikke bli
maskinens
.

Nyttig kritikk, men satt på spissen.
Berører kunnskapsrepresentasjons-problemet
generelt.

-
Konsekvenser for interaktive rådgivingssystemer


Utviklingsmetoder der mindre vekt legges på
datamaskinen


som problemløser, mer på samspillet mellom maskin
og bruker.

En utfordring er at systemet må ha eller bygge
opp kunnskap


om interaksjons-omgivelsen.

-
Konsekvenser for læring


Større grad av erfaringsbasert læring, der
systemene lærer


gradvis ved å delta i løsningen av reelle
problemer i det miljø


de virker.



For (morgen)dagens ekspertsystemer

Fra 'tradisjonelle' problemløsende systemer


til
aktive, adaptive beslutningsstøtte-systemer
4
STATUS, KUNSTIG INTELLIGENS -

O
ppsummert




AI forskningen er en pådriver innen





informatikk-feltet, bl.a. ved å angripe problemer
som


andre metoder ikke håndterer.

og

Ekspertsystemer er blitt en kommersiell suksess,

regelbaserte systemer er på vei inn i
'tradisjonell'

databehandling.


Systemer som lærer av erfaring blir neste viktige



'gjennombrudd'. Case-baserte metoder ser


lovende ut.


Alternativer til det kunnskapsbaserte paradigmet

blomstrer opp Nevrale nett, genetiske
algoritmer.


Forskjellige typer anvendelser av intelligente


datamaskinsystemer krever forskjellige typer

'intelligens' (dvs. fundamentalt forskjellige
metoder)


Metodesettet for å bygge nyttige og
brukervennlige

datasystemer utvides og
forbedres stadig. AI-feltet er

en viktig bidragsyter til dette.
5
Intelligente agenter

Agent System og benyttes for å framheve
systemer som vekselvirker med omgivelsene.
En
agent
er et system som
sanser
, dvs. får
inndata, fra en
omgivelse

via
sensorer
(inndatakanaler), og som
handler

i denne
omgivelsen via
effektorer
.
6
Rasjonelle agenter


En
rasjonell agent
er en agent som gjør de
rette handlinger i en gitt situasjon. En
handling kan være å skrive et ord på en
skjerm eller å bevege en robotarm.

En
intelligent

agent
er en rasjonell agent,
et system som oppfører seg rasjonelt i ulike
komplekse og tildels ukjente situasjoner.

En rasjonell agent er et system som


- har visse mål det skal oppnå
- har kunnskap som gjør det istand til å
oppnå sine mål
- har metoder som anvender kunnskapen for å
oppnå målene
7


Kunnskapsrepresentasjon - basis

Kunnskapsrepresentasjon i AI vil si å
representere
kunnskap
i
et system, og
for
dette systemet. Det er altså
det intelligente systemets kunnskap - enten dette
systemet
er et menneske eller en maskin.

En kunnskapsrepresentasjon består derfor av en
kunnskaps-struktur i et visst språk, samt en
tolkning som
gjør at kunnskapen får mening for den som 'eier'
kunnskapen.

En representasjonsmetode består av en
språk-syntaks
, og
en
underliggende semantikk
definert av inferens-metoden.
Uttrykkskraften av språket bestemmes av begge
disse i
sammen.

En kunnskaps-struktur får mening ved at den gis en

tolkning
i den sammenhengen der den utnyttes.
Kunnskapens meningsinnhold er derfor sjelden helt
uavhengig av det formålet kunnskapen benyttes for
og
den sammenhengen den benyttes i.

Hvorvidt representasjonen har den mening vi
ønsker, kan
testes ved å stille spørsmål til systemet.
8

Fundamentale Kunnskapstyper




Dyp kunnskap



- fundamentale teorier, prinsipper



- lærebok-kunnskap



- detaljerte klasse/subklasse hierarkier



- detaljerte system/komponent relasjoner



- funksjonelle modeller



- kausale modeller (årsak-virkning relasjoner)



- forklarte situasjoner



Grunn kunnskap



- erfaringregler



- overflatiske sammenhenger mellom





domenebegreper (klasse/subklasse,





system/komponent, funksjonalitet, ...)



- erfarte situasjoner





9
(No Transcript)
10
(No Transcript)
11
(No Transcript)
12
(No Transcript)
13
(No Transcript)
14
(No Transcript)
15
(No Transcript)
16
(No Transcript)
17
(No Transcript)
18
o
b
l
e
m
l
ø
s
n
i
n
g

v
i
a

f
l
e
r
e

k
u
n
n
s
k
a
p
s
k
i
l
d
e
r


-

a
g
e
n
d
a

s
t
r
u
k
t
u
r
e
r

19
RULE BASED
SYSTEMS
EXPERT
Expert system


A knowledge-based computer program designed to
model the
problem-solving ability of a human expert.


- Knowledge is acquired from various sources
(e.g., primarily a
human expert, but also books, reports,
drawings, visual inspections).

- Expert systems do not attempt to simulate
human mental architecture,
but emulate human expert's methodology and
performance.


20
Important aspects of expert systems

- separation of control from knowledge.
- modularity of knowledge
- ease of expansion
- ability of explanation
- utilization of heuristic knowledge
- utilization of uncertain knowledge
21
iterative
- Expert System development,
is a highly

process
.
-
The designer partially builds the system, tests
it, then modifies the system's
knowledge.
- This process is repeated throughout the project
where the system's knowledge
grow with each test.

Phases in expert sytem development
22
The CBR Cycle
23
Case-based approaches


Instance-based
reasoning/learning


Memory-based
reasoning/learning


Case-based reasoning/learning (typical)


Analogical reasoning/learning
24
Transformational and Derivational analogy (J.
Carbonell 83) - Transformational
25
- Derivational
26
CreekL Knowledge Types
l
e
n
e
r
a
27
Tangled CreekL Network
28
Example (Noemie project) - A solved case
case-16 instance-of value case
has-platform-name value snorre-tlp
has-operator-name value saga
has-country-location value n
has-well-name value 34/7-p22
has-depth-of-occurrence value 5318
has-geological-formation value shetland-gp
cromer-knoll-gp hegre-gp claystone-with-dolomite-s
tringers
claystone-with-limestone-stringers sandstone
mudstone has-well-section value
8.5-inch-hole has-well-section-position
value in-reservoir-section
has-drilling-fluid value novaplus
has-task value
solve-lc-problem has-activity
value tripping-in circulating
has-time-of-occurrence value 02.10.1996
has-observable-parameter value
high-pump-pressure high-mud-density-1.41-1.7kg/l

high-viscosity-30-40cp normal-yield-point-10-30-
lb/100ft2
. . . . has-failure value
induced-fracture-lc has-repair-activity
value pooh-to-casing-shoe waited-lt1h
increased-pump-rate-stepwise
lost-circulation-again
pumped-numerous-lcm-pills
no-return-obtained
set-and-squeezed-balanced-cement-plug
has-operators-explanation value "we tripped in
and lost circulation while breaking circulation.
the mud seemed
unstable and barite settled probly out and
tended to pack around bha. we also
know that depletion lowers
fracture resistance and this combined is
sufficient
to explain the losses. we also probably crossed
faults" has-outcome value
squeeze-job-acceptable has-lesson-learned
value "when 138 kg/m3 course nut plug lcm
was pumped to apprx. 90 m above mwd tool, a
check for
backflow was performed. lcm may have settled out,
contributing to pl
ugging mwd-tool. don't stop circulating
when lcm plug is close to mwd-tool"
29
The Creek Explanation Engine
Goal
Goal
- Appl. task accomplished
- Appl. task is defined
Situation
Situation
- Findings explained
- Findings are listed
- Constraints confirmed
- Constraints are specified
- Solution found
- Solution asked for
FOCUS
30
(No Transcript)
31
(No Transcript)
32
(d-separated)
(d-connected)
E
If Known
R
A
B
C
A
If Known
E
B
If Known
A
OR
C
If Known
33
Usikkerhetsbehandling - Fuzzy Sets - et fuzzy
set (fose mendge?) er en mendge der elementene
i større eller mindre grad kan sies å være medlem
av mendgen - en medlemsskapsfunksjon definerer
i hvilken grad (mellom 0 og 1) et element er
medlem av mengden - øvelse tegn
medlemsskapsfunksjonene 0,1 for ung og
gammel i mendgen av aldre 1,100.
1
0.5
0
1
20
50
100
30
70
10
90
80
60
40
34
Kunstig intelligens (MNFIT-272) - høst 2000.
Forelesning 8

Emner




Kunnskapsrepresentasjon - AI systemer i den
virkelige verden - deklarativ vs. procedural
kunnskap - representasjon vs. inferens - objekter
i nettverk - semantiske nett - frame
systemer















35
(No Transcript)
36
Utvikling av AI systemer (forts.)
To viktige prinsipper for modellering av kunnskap
og
resonnering. Begge er relatert til valg av
fornuftige
abstraksjons-nivåer
tilpasset de forskjellige deler av
programutviklings-prosessen
1.
Velg en egnet
dekomponering
av problem-
rommet i hensiktsmessige deler.
En mye anvendt oppdeling på øverste nivå er
- Oppgaver
(
hva
skal systemet gjøre?)
- Metoder
(
hvordan
gjøre det?
- Domenekunnskap (
hvilken kunnskap
trengs?)
- Agenter
(
hvem
skal gjøre hva?)
37

Representasjonsmetoder



Predikatlogikk


- matematisk syntaks deduktiv inferens


- typisk eks. Teorembevis-system





Regel-basert


- syntaks er If-Then sammenhenger, med
AND,

operatorer og evt. usikkerhetsanslag



OR, NOT


inferens er regel-lenking og usikkerhets-




beregning.


- eks. Produksjonssystem



Nettverk


- begreper er noder, relasjoner er lenker
inferens


er bl.a. arving langs utvalgte lenker, ellers i





utganspunktet uspesifisert.


- eks. Taksonomisk hierarki



Rammebaserte systemer


- kan ses på som et nettverk der nodene er




komplekse objekter inferens som for nettverk,



og typisk default arving, 'constraint
propagation',
og demoner (tilknyttede prosedyrer).
38




Deklarativ og prosedural representasjon

Deklarativ kunnskap
Representerer generelle sammenhenger og konkrete
fakta, uavhengig av hvordan de er tenkt utnyttet.

Gjør mao. antakelse om at den underliggende
inferens-
metoden er generell nok som basis for alle
aktuelle måter
å bruke kunnskapen på.

eks.
(for-all ?x ((is-a bird ?x)
lt- (is-a animal ?x)






AND
(lays eggs ?x)






AND (has feathers
?x
))


Tolkning Alle dyr som har fjær og legger egg er
fugl er


Prosedural kunnskap


Representerer kunnskap i form av en prosedyre som
hvis
den utføres med suksess, gir den aktuelle
kunnskapen
som resultat.

eks.
(is-a bird ?x))
lt- (is-a animal ?x)







AND

(has feathers
?x
)








AND
(lays eggs ?x)



Tolkning For å finne ut om noe er en en fugl,
sjekk først
om det er et dyr, deretter om det har fjær, og
til slutt om
det legger egg.

39
Inferens-metoder



Deduksjon


- sannhetsbevarende slutning

- basis er slutningsregelen modus ponens


(P(x) -gt Q(x)) P(a) -gt Q(a)


Klassisk eksempel



(Isa-man(x) -gt Is-mortal(x))



Isa-man(Socrates)


-gt
Is-mortal(Socrates)


Abduksjon


- ikke sannhetsbevarende

- "inference to the best explanation"


(P(x) -gt Q(x)) Q(a) gt P(a)


Eksempel



(Has-appendicitis(x) -gt Has-abdominal-pain(x))



Has-abdominal-pain(Socrates)


gt
Has-appendicitis(Socrates)
40


Induksjon


- ikke sannhetsbevarende

- generaliserende slutning


(P(a) -gt Q(a)) (P(b) -gt Q(b)) ... gt P(x) -gt
Q(x)










for all x


Example



(Isa-bird(Robin) -gt Can-fly(Robin))



(Isa-bird(Eagle) -gt Can-fly(Eagle))



...


gt
(Isa-bird(x) -gt Can-fly(x))
41
(No Transcript)
42
(No Transcript)
43

Generelt representasjons-problem
Ontologier
En ontologi er settet av grunnleggende begreper
som representerer et domene, samt de begrepstyper
som representasjonen omfatter.
Øvrige begreper bygger på ontologi-begrepene.
Eksempler


i)
'Case grammar' relasjoner for naturlig



språk-tolkning


Agent, Objekt, Instrument, Lokalisering, Tid

ii)
Aristoteles' semantiske primitiver


Substans, Kvantitet, Kvalitet, Relasjon,



Tid, Posisjon, Tilstand, Aktivitet, Passivitet
Definisjon av ontologier for kunnskapsbaserte
systemer er en viktig del av kunnskaps- analyse
og
modellering på
kunnskapsnivået
.
En ontologi med stor innflytelse for tiden er
den som
er utviklet i
CYC prosjektet.

En dekkende ontologi samt en dyp semantisk
struktur mellom begrepene, er det som tilstrebes
i
semantisk-nett representasjoner.
44
Kunstig intelligens (MNFIT-272) - høst 2000.
Forelesning 9

Emner




Tolkning av naturlig språk - Kontekst-frie
gramatikker - Chomsky hierarkiet -
Kontekst-sensitive gramatikker Maskinlæring -
induktiv symbol-prosessering -
similaritetsbasert - forklaringsbasert
















45


Trinn i (datamaskin-basert) språktolkning

• Setningstruktur analyse (parsing) - syntaktisk
  struktur, genererer et parse-tree
• Semantisk tolkning - ords og kombinerte ords
  mening, representert i en eller annen
  KR-formalisme
• Kontekstuell tolkning - utvidet semantisk
  tolkning, resonnering ved bruk av en
  kunnskapsbase av verdens/domene-kunnskap

46


Basis-begreper

• Gramatikk-regler S NP VP NP N NP A
  N N man N dog A a A the
• Ikke-terminaler er lingvistiske termer (setning,
  verb, ) - f. eks. 3 øverste linjer over
• Terminaler er ord i språket - f. eks. 4
  nederste linjer over

47


Kontekst-sensitive språk

• Ønskelig, men komplekse parsere
• Augmented Transitions Networks (ATNs) gir
  kontekst- sensitive egenskaper ved en
  utvidelse av kontekst-frie gramatikk-regler
• Kombinerer syntaktisk og semantisk parsing
• Tillater procedural attachments på lenkene i
  trans.nettet
• Prosedyrene kan utføre tester, tilordne verdier,
  konstruere deler av parse-tre, etc.

48
Eksempelbasert læring
instansrommet
begrepsrommet
hypoteser
- - - - - - - -- -- -
- - - - - - - - -
- - - - - - - -

Induktiv læring
kandidater
eksempler
begrep
- - - - - - - -- -- -
- - - - - - - - -
- - - - - - - -

- - - - - -
- - - -
- - - - -

Instansbasert læring (case-basert,
memory-basert)
eksempler
eksempler
49
Version Space
G
more general
consistent generalizations
more specific
S
examples move S up
- examples move G down
50
Generality Lattice - Example
(? ?)
(? circle)
(red ?)
(blue ?)
(? square)
(blue circle)
(red circle)
(red square)
(blue square)
51

• Decision Trees
• Data structure for clasifying objects
• Restricted to featural descriptions
• Allows for disjunction

color
red
green
blue
-
size
shape
circle
big
small
square
something red and small or green and
square-shaped

-

-
52

• Summary Similarity-based Learning
• Empirical, data-intensive
• Requires many examples and counter-examples
• Knowledge poor
• Generates unjustified concept definitions

53

• Summary Explanation-based Learning
• Analytical
• Learns from 1 example
• Knowledge rich
• Generates justified concept definitions

54

• EBL method
• 1. Explain
• Use the domain theory to explain why the
  example is an example of the goal concept
• 2. Generalise Determine the most general
  condictions under whch the explanation
  holds, and generalise the explanation

55
(No Transcript)
56
(Fra første forelesning)
INFORMATIKK
er delfelt av
KUNSTIG INTELLIGENS (AI)
har metoder
57

NEVRALE NETT - struktur og læringsprinsipp


Et nettverk av noder delvis koblet i sammen via
lenker.



Lenkene som går inn til en node kan medføre at
noden


aktiveres, som igjen medfører at lenken ut fra




noden gis en verdi.


En node i nettet

f








Aktiveringsverdien for en node (o) bestemmes av
en

aktiveringsfunksjon (f) der styrken på
inn-lenkene (x..)


samt av vektingen av hver av dem (w..) er
input-parametre.


Nevrale nett trenes opp ved at inndata gis inn,
utdata


registreres og avvikende resultatet tilbakeføres
til nettet slik at vektene på lenkene blir
justert i riktig retning



58
Evolutionary Algorithms
Semantic
Parameters, Code, Neural Nets, Rules
Performance Test
P,C,N,R
Generate
Bits
Bit Strings
Syntactic
59
Types of Evolutionary Algorithms

• Genetic Algorithms (Holland, 1975)
• Representation Bit Strings gt Integer or real
  feature vectors
• Syntactic crossover (main) mutation
  (secondary)
• Evolutionary Strategies (Recehenberg, 1972
  Schwefel, 1995)
• Representation Real-valued feature vectors
• Semantic mutation (main) crossover (secondary)
• Evolutionary Programs (Fogel, Owens Walsh,
  1966 Fogel, 1995)
• Representation Real-valued feature vectors or
  Finite State Machines
• Semantic mutation (only)
• View each individual as a whole species, hence
  no crossover
• Genetic Programs (Koza, 1992)
• Representation Computer programs (typically in
  LISP)
• Syntactic crossover (main) mutation (secondary)

60
Artificial Life

• Biology study of carbon-based life
• life as we know it
• Alife study of the dynamics of living systems,
  regardless of substrate.
• life as it could be
• Substrates abstract chemistries, logical
  networks, cellular automata, abstract ecosystems,
  emulated computers..

61
Properties of Alife Systems

• Synthetic Bottom-up, multiple interacting agents
• Self-regulating No global/centralized control.
• Self-Organizing Global structure is emergent.
• Adaptive Learning and/or evolving
• Complex On the edge of chaos dissipative