(19) 한민 특허청(KR)

(12) 등 특허공보(B1)

(45) 공고 2012 07월09

(11) 등 10-1163834(24) 등 2012 07월02

(51) 특허 (Int. Cl.)

G06F 19/00 (2011.01) G06F 17/00 (2006.01)(21) 원 10-2009-0092277

(22) 원 2009 09월29

심사청 2009 09월29

(65) 공개 10-2011-0034828

(43) 공개 2011 04월06

(56) 행 술 사 헌

(2004)

(2010)

(IEEE_2008.06)

(IEEE_2006.09)

(73) 특허

경 학 산학 단

경 도 시 1732, 스내 ( 천동, 경 학 )

(72)

승룡

경 도 남시 당 미 144 25, 102동102 ( 미동, 삼 빌라)

역시 월평 사 11, 106동 302 (월평동, 지개아 트)

(뒷 에 계 )

(74) 리

삼수

체 청 항 수 : 3 항 심사 : 숙

(54) 미 마 프 건 랜 필드 행동 식

(57) 약

본 미 마 프 건 랜 필드 행동 식 에 한 것 , 가 도계에

는 신 할하여 프 시퀀스 하는 과 과, 상 프 시퀀스에 특징 하는

과 과, 트 닝 신 하나 프 단 하여 특징 한 후 커 취합하는

과 과, 상 커 중에 상 특징 가 사한 커 하여 상 특징 양

하여 산 시퀀스 하는 과 과, 체 가진 미 마 프 건 랜 필드 상

산 시퀀스 아 어느 라 상태(si) 시퀀스 나타내는 상태 시퀀스 (P(S│X)) 산

하는 과 포함한다.

도 - 도3

등록특허 10-1163834

- 1 -

(72)

라 빈

경 도 시 1732, 보과351 ( 천동, 경 학 )

산

경 도 시 1732, 보과351 ( 천동, 경 학 )

경 도 시 1732, 보과351 ( 천동, 경 학 )

경 도 남시 당 수내 181, 312동 1405( 당동, 샛별마 )

한만

경 도 고양시 산 탄 93, 1001동 1502 (탄 동, 탄 마 )

등록특허 10-1163834

- 2 -

특허청

청 항 1

슬라 도우가 가 도계에 는 신 할하여 프 시퀀스 하는 과 ;

특징 가 상 프 시퀀스에 특징 하는 과 ;

슬라 도우가 트 닝 신 하나 프 단 생 하여 특징 에 공하 특징

는 프 단 신 들에 특징 한 후 클러스 링 가 커 취합하는 과 ;

양 가 상 커 중에 상 특징 가 사한 커 하여 상 특징

양 하여 산 시퀀스 하는 과 ;

체 가진 미 마 프 건 랜 필드 가 상 산 시퀀스 아 어느 특 상

태(si) 시퀀스 나타내는 상태 시퀀스 (P(S│X)) 산 하는 과

포함하는 미 마 프 건 랜 필드 행동 식 .

청 항 2

1항에 어 , 상 신 할하는 것 , 해 함수 하여 신 할함 특징 하는

미 마 프 건 랜 필드 행동 식 .

청 항 3

1항에 어 , 상 특 상태(si)는, yi가 i 째 상태 보 라미 , bi가 i 째 시

시간과 라미 , ei가 i 째 료 시간과 라미 고, 상 bi, ei는 0 < bi ≤ ei, ei <

bi+1 건 할 , si = (yi, bi, ei) 특징 하는 미 마 프 건 랜 필드

행동 식 .

청 항 4

삭

청 항 5

삭

상 한

술 야

본 미 마 프 건 랜 필드 행동 식 에 한 것 다.[0001]

경 술

상 생 역 산업 역에 지 행동 식 많 고 에, 늘날 우리 생[0002]

에 행동 식 야가 중 해지고 다. 행동 식 여러 다 들에 어 근 많

루어지고 는 , 중에 가 도계는 비 과 에 행동 하는 어

과 알 다.

행동 식 알고리즘과 하여, 근에, 건 랜 필드 (conditional random fields model) [0003]

어 한 결과 낳고 다[John Lafferty 다수 2001].

그러나, 러한 래 건 랜 필드는 행동들 지 간 링할 수 없 , 행동들 사 랜[0004]

간 행동 변 할 수 없다.

러한 극복하 하여, 건 랜 필드 다양한 변 들[Sunita Sarawagi 다수 2004,[0005]

등록특허 10-1163834

- 3 -

D.L.Vail 다수 2001] 개 어 나, 러한 건 랜 필드 변 들 비 실 복

(complexity) 가지거나 상 들 해결하지 못하 다. 들어, 2001 에 John Lafferty

다수에 해 시 건 랜 필드는 마 프 가 (Markov assumption) 에 상태 양(陽)

지 간 링할 수 없었다.

극복하 하여 2004 에 Sunita Sarawagi 다수에 해 시 내 , 미 건 랜 필드(semi[0006]

conditional random field) 하여 마 프 특 시키고 하는 것 었다. 그러나, 그럼에도

하고, 행동 식 는 동안, 어 상 행동(expected activity) 사 나 행동(target

activity) 사 에 알 수 없는 행동(unknown activity) 또는 미한 행동(null activity) 나타나

에, 미 건 랜 필드 역시 랜 간 행동 변 여 쳐할 수 없는 가 었다.

참고 헌:[0007]

1. John Lafferty, Andrew McCallum, and Fernando Pereira.[0008]

"Conditional random felds: Probabilistic models for segmenting and labeling sequence data". In[0009]

Proceeding of International Conference on Machine Learning (ICML), Williams College, Williamstown, MA,

USA, June 28 - July 1, 2001.　Morgan Kaufmann　2001, ISBN 1-55860-778-1.

2. Sunita Sarawagi and William Cohen.[0010]

"Semi-markov conditional random felds for information extraction". In Proceedings of Advances in[0011]

Neural Information Processing Systems (NIPS), MIT Press, Cambridge, MA, USA, December 2004.

3. D. L. Vail, M. M. Veloso, and J. D. Lafferty.[0012]

"Conditional random felds for activity recognition". In Proceedings of the International Conference on[0013]

Autonomous Agents and Multi-agent Systems 2007, ACM Press, New York, NY, USA , ISBN:978-81-904262-7-5.

내

해결 하고 하는 과

본 미 마 프 건 랜 필드 에 해결책 시하여, 한 복 가[0014]

지도 하 래 해결할 수 도 한다.

과 해결수단

본 가 도계에 는 신 할하여 프 시퀀스 하는 과 과, 상 프 시퀀[0015]

스에 특징 하는 과 과, 트 닝 신 하나 프 단 하여 특징 한 후

커 취합하는 과 과, 상 커 중에 상 특징 가 사한 커

하여 상 특징 양 하여 산 시퀀스 하는 과 과, 체 가진 미 마

프 건 랜 필드 상 산 시퀀스 아 어느 특 상태(si) 시퀀스 나타내는

상태 시퀀스 (P(S│X)) 산 하는 과 포함한다.

과

본 가 도계 한 행동 식에 어 , 미 마 프 건 랜 필드에 트 닝(training)[0016]

과 (interference) 동시에 진행함 , 랜 지 간에 행동 변 과 쳐할 수 는

과가 다.

실시 한 체 내

하, 본 실시 들 상 한 첨 도 들 참 하여 것 다. 하 에 각 도[0017]

들에 참 가함에 어 동 한 들에 해 는 비 다 도 상에 시 라도 가

능한 한 동 한 가지도 하고 에 해야 한다.

도 1 본 실시 에 미 마 프 건 랜 필드 도시한 그림 다.[0018]

등록특허 10-1163834

- 4 -

지 지 행동 식 야에 마 프 하는 해결책 , 행동들 사 에 상 과 행동들[0019]

지 간 고 하지 않아 복 가지지 않았다.

본 , 마 프 에 행동들 상 과 지 간 고 하 하여, 트 닝(training)과 [0020]

(inference) 동시에 빠 게 하는 알고리즘 가진 미 마 프 건 랜 필드 다.

결 , 본 미 마 프 건 랜 필드 하여, 래 미 마 프 건 랜 필드 지[0021]

간 링 능 하 도, 랜 간 행동 변 쳐할 수 도 한다.

하여 본 연 상태 시간 가진 미 마 프 건 랜 필드 하는 , 도 1과 같[0022]

체 미 마 프 건 랜 필드 가진다.

y1, y2, y3, y4는 상태 나타내고, x는 심볼 값 나타낸다. 미 마 프 건 랜 필드에 , [0023]

상태는 si = (yi, bi, ei) 시 , i 째 상태는 yi, bi, ei 개 라미 다. yi는 i 째

상태 보 라미 , bi는 i 째 시 시간과 라미 , ei는 i 째 료 시간과

라미 다.

행동 시 시간(bginning time)과 료 시간(ending time) 각각 별개 하 수식 1 건 한[0024]

다.

[수식 1][0025]

0 < bi ≤ ei [0026]

ei < bi+1[0027]

시퀀스 X에 하여 나타날 상태 시퀀스 S P(S│X) 하 수식 2에 하여 계산 어 진다.[0028]

[수식 2][0029]

[0030]

상 에 ψ는 si-1 si 지 행동 변 가능 한 것 다.[0031]

ψ는 하 수식 3에 하여 산 다.[0032]

등록특허 10-1163834

- 5 -

[수식 3][0033]

[0034]

상 수식 3에 QT

(y',y), QD

(y,d), QO

(y,t1,t2), QO

(IA,t1,t2)는 다 수식 4에 해 해질 수 다.[0035]

[수식 4][0036]

[0037]

상 수식 4에 WD

는 지 간(D;duration) 가중 고, WT

는 행동 변 (T;transition) 가중 고, WO

[0038]

는 (O;observation) 가중 다. 양함수 지 간 보는 상 에 수

하다.

또한, 상 수식 4에 d는 지 간 변수(duration variable), t1과 t2는 시간 변수(time variable), IA는[0039]

알 수 없는 행동들 라 (label of unknown ativities), my는 평균 지 간(average duration), y는 평균

지 간(average duration) my 갖는 어 상 는 행동 라 값(label value) 나타낸다.

상 수식에 볼 수 듯 , 본 에 는 지 간 링 해 양(bell shape) 함수[0040]

한다. 상 함수 상 도 2에 도시 어 다. 도 2에 도시 21, 22, 23 그래프는 다 지

등록특허 10-1163834

- 6 -

간 평균(mean)과 준편차(sd;standard deviation) 값 가진 함수 상 (15,1), (10,2), (5,

2) 각각 나타낸다.

상 어 , 라미 증감 하 수식 5, 수식 6, 수식 7 하여 한다.[0041]

[수식 5] 행동 변 가중 울 (Gradient of transition weights)[0042]

[0043]

[수식 6] 지 간 가중 울 (Gradient of duration weights)[0044]

[0045]

G(y,t,t+d-1) = QO

(y,t,t+d-1)+QD

(y,d)[0046]

[수식 7] 가중 울 (Gradient of observation weights)[0047]

[0048]

등록특허 10-1163834

- 7 -

상 수식 5, 수식 6, 수식 7에 , α함수, λ함수, γ함수, β함수, η함수, ξ함수는 하 수식 8에 해[0049]

해질 수 다.

[수식 8][0050]

[0051]

도 3 본 실시 에 라 행동 식하는 어 본 한 도시한 것 다.[0052]

가 도계 통해 트 닝 또는 스트 도 신 (31)가 슬라 도우(32) [0053]

(S31), 슬라 도우(32;sliding window)는 신 프 시퀀스(33) 할한다(S32). 상 슬라

도우는 해 (hamming) 함수 하여 신 할한다. 상 해 함수는 필 계 시에

사 는 함수 , 개수 수 아 신 할하는 능 수행한다.

특징 (34)는 상 할 프 시퀀스(33)에 특징 (feature extraction) 한다(S33). [0054]

특징 는 양 에 공 다(S34).

양 (35)는 특징 아 커 (38) 결합하여 산 시퀀스(discrete input[0055]

sequence) 한다(S35). 산 시퀀스는 본 미 마 프 건 랜 필드 에 공 다.

참고 , 트 닝 상에 수동 상태 라 트는 미 마 프 건 랜 필드 (36)에 가

필 한다.

본 미 마 프 건 랜 필드 (36)는 양 (35) 수신한 산 시퀀스 [0056]

탕 , 상 수식 1 내지 수식 8에 하여 행동 변 쳐하여 식 결과 할 수 게 다.

한편, 양 (35)에 특징 함께 는 커 (38)는 별도 과 통해 생 는 도 4[0057]

함께 한다.

트 닝 신 (41)가 슬라 도우(32)에 , 슬라 도우는 하나 프 단 생[0058]

하여 특징 (34)에 공한다. 특징 는 프 단 신 들에 특징 들(42) 한다.

상 같 특징 들(42) 클러스 링 (43;clustering)에 공 , 클러스 링 (43)는 [0059]

등록특허 10-1163834

- 8 -

는 특징 들 취합하여 커 (38) 생 한다.

게 생 커 (38)는 도 3 양 (35)에 공 고, 양 에 특징 들 가[0060]

가 운 커 에 해 양 다.

결 , 본 , 시퀀스 특징 들에 한 (inference)과 커 들에 한 트 닝(training)[0061]

동시에 빠 게 진행하여, 행동 변 식 결과 할 수 게 다.

도 5는 본 실시 에 라 수식 2 Z 산 하는 과 도시한 플 차트 다.[0062]

라 상태 시퀀스 P(S│X)는 상 살펴본 같 수식 2에 하여 산 수 다. 수식 2 참[0063]

고한다.

[0064]

상 같 P(S│X) 함수는 Zx 함수 필 하는 , 러한 Zx 함수는[0065]

에 해 해진다.

라 러한 Zx 함수 상 수식에 해 산 해야 하는 , 러한 산 수식 과 플 우 도[0066]

5에 참고 도시하 다.

도 5 참고하 , 재 t 시간 준 T보다 클 경우 Z 계산한다. 에, 그 지 않 경우, 각[0067]

시간 별 ψ함수 하여 차 ∑∏ 연산 수행해야 하는 과 들 가진다.

하여, 우 , S501, S502, S504 단계에 변수 t 가진 루프 생 한다. 또한, S506,S507,S510 단계[0068]

에 는 변수 d 가진 루프 하 , S508,S512,S514 단계에 는 변수 y' 가진 루프 한다. S509,

S513 단계에 는, 수식 8에 한 α함수, γ함수, λ함수 계산해내고, S515 단계에 준 Z 계

산해 낸다.

상술한 본 에 는 체 실시 에 해 하 나, 여러 가지 변 본 에[0069]

어나지 않고 실시 수 다. 라 본 특허 는 상 실시 에 하여 할 것 아니

고 특허청 뿐 아니라 균등 에도 미 할 것 다.

도 간단한

도 1 본 실시 에 미 마 프 건 랜 필드 도시한 그림 다.[0070]

도 2는 본 실시 에 라 지 간 링 해 양(bell shape) 함수 도시한 그[0071]

림 다.

도 3 본 실시 에 라 행동 식하는 어 본 미 마 프 건 랜 필드 [0072]

한 도시한 그림 다.

도 4는 본 실시 에 라 커 생 하는 습 도시한 그림 다.[0073]

도 5는 본 실시 에 라 Z 산 하는 과 도시한 플 차트 다.[0074]

도

등록특허 10-1163834

- 9 -

도 1

도 2

등록특허 10-1163834

- 10 -

도 3

도 4

등록특허 10-1163834

- 11 -

도 5

등록특허 10-1163834

- 12 -