???????????? Introduction to Traveling Salesman Problems

1
????????????Introduction to Traveling Salesman
Problems

• ????????????
• ????

2
??????????(Traveling Salesman Problem)

• ??????????
• ????????????
• ??????????

3
??????????

• ?????????????1???????,
• ?????????????????????.
• 6?????,
• 5!/2 5432 / 2 60??.
• n ?????, (n - 1)! /2 ??.
• ??, ?????????
• ?????????????.
• TSP(Traveling Salesman Problem)
• ???????????

4
??????????

• ?????????? (???????)?????????.
• ???????????
• ??????????????.

5
?????????????

• ??????1???????,?????????????????????.
• ???,?????????,
• ????????????.
• (?????????)
• ????????,
• ????????.

6
?????????????

• ???????
• ?????????????
• ?????????.
• ?????????????,
• ????????????????,
• (??????????).
• ???????????????.
• ???TSP????
• ?? ??????
• ?????? ????
• ?? ??????????

7
???????????????????

• ?????
• ???TSP ??????????????? ??
• ??TSP ??????????????
• ??TSP ????????,
• ??????2??????? ??
• ????
• m?TSP ???????m?????????
• ??????1??????1?????
• ???1???????????????
• (Chinese
  Postman Problem)

8
Hamilton ????

• ????????????
• ???????

9
???

• ??????????????????
• ???, ?, ?, ?, ?
• ?a, b, c, d, e, f
• a 1,2, b 2,3, ...
  

1
4
d
f
c
a
5
e
2
3
b
10
Hamilton ????

• Hamilton ???????????1???????, ???????(??).
• ?????????Hamilton?????????
• YESHamilton ???? NOHamilton ????

11
Hamilton ?

• William Rowan Hamilton (1805-1865)
• ?Hamilton?4????????????????.
• Icosian Game ?12???????(20?)?,
• ??1?????????????(2????)???.Hamilton
  ?25??????????.
• 1?? ???4?
• (5????)???.
• 2?? 5???????.
• ?12????????,
• ??1???????????,
• ?????,??.

5
20
4
2
1
3
12
????
13
????

• The Traveling Salesman Problem,
• E. L. Lawler, J. K. Lenstra, A. H. G. Rinnooy
  Kan,
• and D. B. Shmoys, Wiley, 1985.

14
????

• ????????????????,
• ????, ????, ????.

15
????

• ??????????????,
• ???, ????, ????.

16
??????

• ?????????????
• ????

17
??????????

• (??)TSP??n????, (n-1)!/2??.
• ??????????,
• ??????,?????????????.
• ???? (Combination Lock)
• ????????,
• ???????(?????)
• ?????.
• ????????, ???????.
• ??????????????????,
• ???????????????????.

18
???

• ,-,,, ??
• 5??????????1step??????.
• (???,?????????.)
• Q1. a1, ...,an ?2???????.
• (1) 2a1??? 2an , 2n-1 steps? O(n)??.
• (2) 2(a1???an) , n steps? O(n)??.
• Q2. a1b1???anbn???. 2n-1 steps ? O(n)??.
• Q3.nn??2?????.
• ??????? n2(2n-1) steps ? O(n3)??.
• ? Strassen ???? O(n2.7).

19
?????????

• ????????????,
• ???????????.
• ????? ??????????????.
• O(n)
• O(n log n ) ???????
• O(n2) polynomial time algorithm
• O(n3)
• O(2n) ??????
• O(n!) exponential time algorithm

O(n log2 n ) O(n log10 n )
20
??????

• (??)TSP??n????, (n-1)!/2??.
• 100MIPS (mega instructions per second)
• 1???100?????1? ? 10-6?
• ?? 3.01010cm/? (10-6? ? 300m??)
• n 10 100 1,000
  10,000
• n 10-5? 10-4? 10-4?
  0.001?
• n2 10-4? 0.01? 1?
  100?
• n3 0.001? 1? 16.6?
  277??
• 2n 0.001? 1014?? 10284?? -------
• n! 0.036? 10141?? 102551?? -------
  ?????!
• ????? 1.5108 ?? (150??)

21
??????????????

• ?????????,????????!
• 10???????????
• 100MIPS 10? 100? 1000?
• n 107 108
  109 1010
• n2 3? 1? 3?
  10?
• n3 215 462 1?
  2?
• 2n 23 27 30
  33
• n! 10 11 12
  13
• 1000?? 1step ? 10-9? ? 10-9? ???30cm??
• 5mm??????1.710-11 ????0.5cm??.

22
????????

• 5 mm ?? ????
• ??5mm????? 1.710-11 ???,
• 1step??1.710-11 ????.
• ???????????????
• 2.01019?.
• 100MIPS???????,?????????
• n 100
  1,000 .
• 2n 1014?? ? 0.85 ? 10284?? ? 10263??
  
• n! 10141?? ? 10120?? 102551?? ? 102530??
• ??????????, ??????????????.

23
??????(Computational Complexity )
24
???????????

• ???????????????
• ??YES?NO?,????????????.
• ????????????
• ??????????????
• YES(??)???????????.(??????)
• NO(??)??????????????????
• ??????????
• YES (??)?????????.
• NO(??)???????????????
• ???????????????

25
Hamiton ????

• Hamilton ??
• ?????????1???????,
• ???????(??).
• Hamilton?????????
• YESHamilton ???? NOHamilton ????
• ????

26
????

• 4?????4??????????.

27
???? (NO??)

• ?????????(NO!) ? ?????????

2n?? O(n2.5)?????????????.
28
NP-?? (NP-complete)

• ????YES-NO ??????
• ???NP YES??????????????
• ???co-NPNO??????????????
• ???P??????????????????
• ???NP-?????????????
• ??????????????

???NP-??
Hamilton????
???P
????
29
???????

• ??????????????????,
• ??????????. ?????
• ?????
• n?O(n)???????.

30
??TSP

• ????????????(????)??
• ????? ???
• ????????,????????????.
• ?????????

31
TSP?????

• ?????
• ?????
• ??????

32
TSP??????

• ???? (exact algorithm)
• ????1??????
• ???? (approximation algorithm)
• ??????????(????)???????.
• ????? (heuristic algorithm)
• ???????????????.??????????.

33
????

• ???????
• ?????????????

34
???????(??TSP)

• ????????,????????!
• 1954 49?? ?????
• Dantzig, Fulkerson and Johnson
• 1971 65?? ?????????
• Held and Karp
• 1980 318?? ??????
• Christofides and Padberg
• 1991 666?? ??????
• Grotschel and Holland
• 1991 2,392?? ??????
• Padberg and Rinaldi
• 1993 4,461?? ???????????
• Applegate, Bixby, Chvatal and Cook
• 1994 7,397?? ???????????
• Applegate, Bixby, Chvatal and Cook

35
????

• ???????
• ????2????

36
??????

• ??
• ?????? M???,???????.
• ??????(??)TSP????,?????????M???????????????
• ??????NP-?????.
• ????M??????????????,????(TSP)????????.
• ?????????????,???????.

37
???????????2-????

• ????????????????
• ???????????????.
• ??????????(???????????)???????.
• ??????????????

38
2?????

• ?????????????,???????
• ?????????, ?????????,
• ????????. ??????.
• 2????????
• ?2???????????????????

39
?????(??TSP)

• ?????
• ? Simulated Annealing
• ? Tabu Search

40
?????

• ??? (construction method)
• nearest neighbor ?
• nearest addition ?
• farthest insertion ?
• ??? (improvement method)
• ????? (local search method)
• ??????? (simulated annealing method)
• ????? (tabu search method)
• ?????????(genetic algorithm)
• ??????????? (neural network)
• (TSP?????.??????????)

41
???

• ? nearest neighbor ?
• ? nearest addition ?
• ? farthest insertion ?

42
???

• nearest neighbor ?(??????? 15 ??)
• nearest addition ? (??????? 20 ??)
• farthest insertion ? (??????? 5 ??)

43
???

• ?????? (local search method)
• ????????
• (simulated annealing method)
• ?????? (tabu search method)

44
????? (Local Search)

• ?????????
• ???????
• ?????????????????

45
????? (local search method)

• ?????????
• ???? (hill climbing method) ??????.
• ???????(??????????)?,????????????????,????????????
  .

??
?????
46
2-opt???????????

• 2-opt??2?????????
• ??????????
• ????????2????????, ????????????????,
• (1???????),?????????????????.
• Nearest Neighbor 2-opt (?????2.5??)

47
?????????(?)

?????
??????
??????
??
(???)???
??
48
?????

• ?????????????
• 2-opt ????2????????????.
• 3-opt ????3????????????.
• 4-opt ????4????????????.

49
?????

• ? 2-opt 3-opt 4-opt
  ?? .
• ????? ?? ? ??
• ???? ??? ? ???
• ????????????????????
• ??????,?????????,?????????????????.
• Nearest neighbor (?????15??)
• Nearest neighbor 2-opt (2.5??)
• Nearest neighbor 2,3-opt (0.3??)

50
???????

• Lin and Kernighan ???
• ????????,???????????????,?????????????.
• ????????????????,???????????,?????????.
• d?? (e ??,?????)

51
Lin and Kernighan ???

• ???????,?????(?????)??,?????.???????

?????
???
52
??????????
53
????????

• ??????,??????????.
• ???????????????
• ????????,?????????
• (multiple start local search)
• ????????????
• (iterated local search)
• ?????????
• ??????? (simulated annealing method)
• ?????-????
• ?????? (tabu search method)

54
Iterated Local Search

• ?????????????,
• ???????????.
• (1???)

55
iterated local search

• iterated local search????????????,
• ???????????????.
• ???????????? Lin and Kernighan???????,???????????
  ,(????) 4-opt ??????,???????????.

56
???????(Simulated Annealing)

• ??????????
• ??????????.
• ???????????,
• ????????????.
• (3???)

57
simulated annealing

• annealing ????
• ?????????????????,???????????????????.
• ??????????
• ??? x ?????????1?y ???.
• if (x ?? y ???), then (x ?? y ???).
• else (???? p? x ?? y ???).
• x ? y ?????? ? ?????? p??.
• ?????(??) ? ?????? p??.
• ?????????????????.

58
simulated annealing

• ?????????.(???? f (x) )
• ????? x,??????T???.
• x ?????????1?y ???.
• if (x ?? y ????), then (x ? y ???).
• else (?? exp- f(x)-f(y) / T? x ? y???).
• ???f(x)-f(y)?? ? ????????.
• ??T??? ? ????????.
• (??????,????????????????.)
• ??????????????.
• ??????k?????Tk?1/log(k1)

59
simulated annealing ???

• ????1?????????.
• ??????????.
• ????????????????????.
• 24opt ??????????.
• ??Hajek
• simulated annealing ????????Markov
  chain??????????,???????? simulated annealing
  ??????????,??1?????????.
• ???????????????,O(n !)????.

60
?????(Tabu Search)

• ??????????
• ??????????.
• ???????????,??????.
• (4???)

61
????????

• (??????)?????????
• ??????????????????.
• ????????????,????????????.
• ??????,
• ?????????????.
• ??????????,
• ????????????????.
• (???????)

62
tabu search

• 2-opt ??2??????
• tabu?????
• ? e?? f ????????,
• ??????????,
• e ??? f ???? 2-opt ???????.
• tabu list???????????????????.
• tabu search ??? 2-opt ?????,
• ??????????????.
• tabu lengthtabu ?????????.
• ???? 511 ?????????.

63
?????(?????)???

• ??????????????,
• ??????????????????,
• ????????????.
• ??????????????????,
• ??????????(??)???????.
• ?????????,???????????.

64
tabu search ???

• ??????????
• ????????????.
• ?????????
• ??????????????????.
• ???????????(????).
• ????????????????.

65
???