Genetic Algorithms: A Tutorial

1
??????? ????????

• ????? ??????????? ?????
• ??? ?????? ?? ???? ??????? ?????
• ?????
• ???? ????? ????
• ???? ?????
• ?????? ?????
• ???? 86

2
??????????? ?????
3
???????? ?????

• ?? ???? ??????????? ????? ???? ????????? ???
• ?? ?????? ????? ?????????? ????? ????? ??? .
• ?? ?????? ?????? ????? ? ????? ?????? ??????
  ???1859 ??????? ?? ???.

4
???????? ????? ??????

• ???? ??? ???? ????????? ??????? ????? ????
  (?1970)
• - ?? ????? ?????? ?????? ????????? ??????
• ???????? ?????
• - ?? ????? ????? ??? ???????? ????????
  ??????
• ?? ???? ???????? ????? ?? ??? ?? ????.

5
???????? ????? (????? )

• ???????? ???? ? ???? ???? ????????? ????? ???? ?
  ??????? ????? ????? ?? ???.
• ?????? ?? ?????? ?? ????? ?? ??? ????? ? ????
  ???????? ? ????? ???? ?????.

6

• ???????? ??? ????? ?? ?????? ?? ??? ?????
  ?????? ???? ????? ??????? ?????? .
• ? ??? ?????? ?? ?? ????? ?????? ??????
  ???????? ?????? ????? ????? .

7
?????????? ??? ????

• ?????? ???? ???? ??? ?? ?? ?? ????? ???? ???
  ?? ????
• ????? ?????? ?? ??? ?? ???? ?? ????? ?? ??? ?
  ???? ?? ???? ????? ??? ????? ???? ???? ?? ??
  ????? ?? ???
• ??? ???? ?????? ??? ????? ?????? ?? ????? ??
  ???.

8
???? ??????
9
???? ???????? ?????
10
???????? ????? ????

• initialize population
• evaluate population
• while TerminationCriteriaNotSatisfied
• select parents for reproduction
• perform recombination and mutation
• evaluate population

11
???? ????? ???? GA
children
reproduction
modification
modified children
parents
evaluation
population
evaluated children
deleted members
discard
12
?????
population

• Chromosomes could be
• Bit strings
  (0101 ... 1100)
• Real numbers (43.2 -33.1 ...
  0.0 89.2)
• Permutations of element (E11 E3 E7 ... E1
  E15)
• Lists of rules (R1 R2 R3
  ... R22 R23)
• Program elements (genetic
  programming)
• ... any data structure ...

13
????? ????
children
reproduction
parents
population
?????? ???? ?????? ?? ???? ??????? ??????? ?????
?? ??????? ??? ???????? ?????? ?? ????.
14
??????? ????????

• ??????? ???? ??? ???? ????? ?? ????
• ????? ??????? ??????? ??
• ???
• ????? (?????? ???? )

children
modification
modified children
15
??? ??????? ????
Before (1 0 1 1 0 1 1 0) After (0
1 1 0 0 1 1 0) Before (1.38 -69.4
326.44 0.1) After (1.38 -67.5 326.44
0.1)

• ???? ????? ???? ?? ???? ????? ?? ??? ) ????
  ?? ????? )
• ??????? ?? ??? ???? ?? ????? ?? ????? ???? ?? ???

16
????? ????? ??????

• P1 (0 1 1 0 1 0 0 0) (0 1 0 0 1 0 0
  0) C1
• P2 (1 1 0 1 1 0 1 0) (1 1 1 1 1 0 1
  0) C2
• ????? ?? ????? ????? ???? ??????????? ????? ???
• ????? ?? ?? ????? ????? ????? ???? ?? ???.
• ???? ?? ??? ?? ??? ?????? ???? ?? ??? ?? ?? ???
  ??????????? ?????? ?? ?? ????? ????.

17
???????

• ????? ??????? ?? ???????? ?? ???????? ?? ???? ??
  ?????
• ???????? ?? ?? ???? ?? ???.
• ????? ??????? ???? ?????? ??? ga ? ????? ?? ??
  ?? ?? ?? ????? ?? ????.

modified children
evaluated children
evaluation
18
???
population

• GA ????? ??? ?? ????? ?? ?? ??? ????? ???????
  ?????.
• GA ???? ?????? ? ????? ??? ?? ???? ?? ?? ???
  ????? ??????? ?????.

discarded members
discard
19
?? ???? ???????
Distribution of Individuals in Generation 0
Distribution of Individuals in Generation N
20
????? ???? ??????? ??????? GA

• ?????? ????? ???? ????? ????
• - ????? ????
• - ?????? ????? ?? ??? ??? ? ..
• - ?????? ? ???????? ??? ? ...
• ????? ?????
• ?????? ?? ????? ?????
• ??? ?? ??? ? ?? ??? ???? ???? ??????? ????? ????
• ( ?????? ??? ???? ???? ??? )

21
?????? GA

• ??? ?????? ?? ???? ??? .
• ???????? ??? ? ?? ?????? ??????? ????? .
• ???????? ????? ???? ??? ??????
• ???? ??????? ?? ?????? noisy ????? ???
• ????? ?? ???? ????? ?? ???? ?? ???? ???? ????
  ?????.
• ???? ????? ??? ? ?? ????? ????? ???? ???.

22
?????? GA

• ?? ???? ????? ???? ?? ???? ????? ????? ? ??????
  ????? ???? ?????? ???? ? ????? ?????? ??? ???????
  ????? ?? GA ???? ???? .
• ???? ?????? ???? ?? ??? ????? ???? ?? ??? ?????
  ?????
• ??????? ???????? ?????? ???? ???? ?????? ???
  ???????
• ??????

23
????? ??????? ????????

• GA ? ??????? ?? ?????? ???? ? ???? ????? ???????
  ?? ???? ?? ???? ?? ??? ? ???????? ???? ?? ??? ??
  ?? ??? ?????? ????? ?? ????? ???? ??? ?? ?? ??
  ????? ??????? ???????? ?? ?????.
• ??? ????? ???????? ?? ????????? ???? ???? ???
  ??? ??? ?????? ??? ????? ?? ???? ????? ?
  ???????? ??????? ??? ????.)

24
?? ???? ?? GA ??????? ???? ?

• ????? ??
• ??? ????? ?????? ????? ??? ? ?????? ?????.
• ???? ?????? ?????? ???? ?? ????? ??????? ??????
  ???.
• ??????? ?? ?????? ????????? GA??????? ?? ????? ??
  ??????? ?????.

25
????? ??? GA

• ????? ?? ????? ?????? ????? ?
• ???? ???????? ( ???????? ??? )
• ???? ???????? ????? (????? )
• ?????? ???? ( ????? ????)
• ???????? ????? ( ????? ?????? ? ??? )
• ???? ??????? (????)
• ????? ?????

26
????? ( ?? ?????)

• ?????? ??????? ????
• (0101 ... 1100)
  ???? ???
• (43.2 -33.1 ... 0.0 89.2) ?????
  ?????
• (E11 E3 E7 ... E1 E15) ?????
  ???????
• (R1 R2 R3 ... R22 R23) ????
  ??????
• (genetic programming) ?????
  ??????
• ... any data structure ... ?? ???
  ??????? ???? ????

27
????? ( ????? )
?????? ?????? ???????? ?? ???? ??? ???? ???
????? ????

• ??????? ?? ?????? ???? ?? ?? ???? ????? ??
  ????? ?????
• ????? ???????? ????? ????? ???????? ?? ????????
  ???.
• ??? ????? ????? ???? ? ??????? ???? ??? ?? ????
  ???????? ?? ??? ????? ????? ???? ????? ?????
  ???? .

28
???????? ?????

• ???? ?? ?????? ?? ????? ?? ?????? ????? ??? ???
  
• ?? ????? ???? ??????? ???
• ?? ?????? ?? ??? ?? ????? ??? ???? ??? ????
• ?? ?????? ??? ?? ????? ??? ???? ?? ???????? ????
  
• ????

29
??????

• ??? ?? ???? ????? ????? ?? ?????? ???? ?? ????
  ?????? ???? ????? ?? ????? ????? ?????.
• ????? ????? ???? ???? ????? ?? ?????? ????? ??
  ???? ??????
• ????? ??? ???.
• ????? ????? ??? ?????? ? ???? ?????? ?? ????
  ?????
• ?? ????? ?? ????? ????? ?????? ?? ??????? .

30
?????? ?????? ?? ????? ????? ( ???????)

• ???? ??? ???? ?????? ????? ??? ?????? ? ????
  ??????
• ????? ???? .
• ?????
• ?????? ?????? ???? f1(x) and f2(x) f1(x) c
• ???? ?????? ?? ?????? ???? ????? ??????? ????
  ???????? ??????? ???? ?????? ??? .

31
?????? ??? ???? ???
????? ?? ???? ???? ????? ????? ????? ???????
???. ?????? ??????? ??? i ?? ?? ??? ???? ?????
??? ????? ?????
B ??? ????? ?????? ???? ?????? ???? ?????? ???
32
?????? ??????? ????
K??? ?? ?? ?????? ????? ?? ????? ??????? ?? ???.
? ???? ?? ?? ?? ?????? ??????? ???? ?? ???.
?????? ?????? ????? ??? ?? ??? ?? ????? ???????
? ????? ?? ?????? ??? . ???? ?????? ??????? ??
????? K???? ????? ?????? ??? .
33
????? ?????? ( ????? )

• ???????? ?????? ?????? ?? ??? ?????? ??????
  ??????
• ?? ???? ?????
• ????? ????????? ??? ??? ????? ???? ??? ????
  ?????
• ??????? ????

34
???

• ??? ???? ???? ??? ??????? ?? ?? ?????? ?? ??
  ????? ??????? ??? ???? ?? ???.
• ????? ???? ?????? ?????
• ????? ?????? ??????? ?? ??? ???? ??
  ????? ???? ???

35
??????? (???? ????? )

• ??? ???? ??? ?? ?? ??? ???? ???? ??????? ?????
  ????.
• ?????? ?? ???? ??? ?????? ??? ???? ???? ???.
• ??? ????? ??????? ??? ???? ???? ??? ???? ?? ????
  ????? ???? ???? ??? ????? ?????.

36
????? ?????

• ??????
• ????? ????? ??? ?? ???? ?? ?? ??? ????? ??? ???
• ?? ??? ?? ???? ????? ???? ???? ????.
• ??? ?? ????? ????? ???? ????? ??? ??? ??????? ??
  ?????
• ??? ???? ????? ?????.

37
???? ?? ????? ????????? GA
38
????????? ?????
39
????????? ?????

• GA ?? ????? ?? ????? ??? ??? ??? ???
• ????? ?????? ??? ??????
• ????? ???? ???????? ?????? ?????????? ???????
• ????? ?????
• ????? ????? ????? ???? ? ????

40
????????? ?????

• ???? ????? ? ????? ????? ????? ????? ?? ??????
  ?????

41
????????? ?????
???? ????? ???????? ???? ?? ?????? ?????
42

• ????????? ?????
• ???? ????? ????? ???? ???? ?? ?? ?????
  ??????????
• ??????? ???

43
???? ???? ?????? ?????

• ???? ???????? ???? ???? ???? ?? ???? ??????
  ?????? ?????????

44
????? ??? ?

45
????? ????

• ?? ?? ????? ?? ?? ??? ???? ? GA ??? ????? ?????
  ?? ????? ?? ??? ?? ???? ?? ??? ????? ??????
  ???? ???? ???? ????? ?? ????? ???? ????? ???
  ????? ??? ???? ?? ???? ?????? ????? ?????? ?????
  ??? ????.
• ????? ?? ????? ??? ?????? ? GA ??? ?? ??? ????
  ????? ????? ????? ?? ??? ? ??? ?? ????? ????????
  ??? ????? ?? ????? ?? ?????? ?????? ?? ?????
  ????.

46
????? ???????? ????? ???? ????? ?? ???? ??

• ???? ??? ???? ????? ???
• ?? ??? EEG ?? ????? ???????? ????? ?????? ???
  ?? ??? ???? ? ?????? ?????? ?? ???? ? ?? ????
  ????? ??? ???? ?? ???? ?? ????? ????? ?? ?? ?????
  ????? ???? ??? ??????? ???? ???.

47
????? ??? ???? ???? ????? ?? ???? ??? ?????

• ??? ???? ???? ????? ?? ???? ??? ????? ? ?? ???
  ????? ????? ???? ??? . ???? ??? ???? ?? ????? ??
  ?? ?????
• ????? ???? ???? ???? .
• ???? ???? ???? ??? ???? ???? ?? ??????? ???
  ????? ??????? ?? ????? ????????? ????? ?? ?????
  ??? ?? ??? ??? ???? ????? ???? ????? ? ???? ?????
  ?? ?? ???.

48
??? ???? ?????? ???? ??? ????? ????? ????

• ??? ? ???? ? ???? ??? ??????? ??????? ??????
• ????? ???? ?? ????? ?? ????? ????? ??? ???
• ?????? ???????? ???? ???.

49
??????? ???????? ??? ?? ?????? ?????

• ???? ???? ? ???? ??? ?????? ???? ???? ??
  ???????
• ???????? ? ?? ????? ?? ????? ????? ???? ????
  ???.

50
???? ???? ???? ??? ????? ????? ?? ???????? ?????

• ?????? ???? ?? ???? ?? ???? ???? ?????? ?? ????
  ???????? ???? ???? ????? ????.
• ?????? ???? ?? ????? ?????? ????? ?? ??? ????
  ??? ???? ???? ?? ??????? ????????? ????? ??
  ?????? ???? ?? ???? ?? ????? ????? ????????? ??
  ???? ??? ????? ????? ???? ????. (????? ?????
  ?????????)

51
????? ? ?????

• www.cs.bgu.ac.il
• www.nd.com /Genetic Algorithm Software - GA
  Software.htm
• http//www.biomed.abdn.ac.uk/Abstracts/A00033/
• http// www.portal.acm.org
• http//www.pubmed.gov
• http//www.wikipedia.com

52
The End