이 책은 최근 언어학에 많이 도입되고 있는 수학적, 통계적 모델을 전공자들이 쉽게 이해할 수 있도록 하자는 의도에서 시작되었다. 통계적인 분석이 행해지는 언어학 여러 분야에서 그 통계 방법과 그 검정 절차를 이해할 수 있고 더 나아가 실제로 실험을 위한 통계 모델을 설정할 수 있는 기초를 제공하고자 하였다. 또한 컴퓨터 언어학에서 발달된 수학적 모델을 수용하여 언어현상을 설명하는 언어학의 여러 방법론을 예를 들어 설명하고자 하였다. 언어 분석에 적용되는 방법론들은 주로 확률과 통계에 기초하고 있기 때문에, 확률, 확률분포, 통계 검정들의 기초를 기술하는 것이 출발점이 되었다.
이 책의 1장은 수학적 기초로 확률 및 확률 분포에 대해 다루고 있다. 확률의 기초와 언어 분석에 필요한 개념 위주로 설명하였다.
2장에서는 통계의 기본이 되는 개념들과 여러 통계 분포 그리고 추측 통계학 관점에서 가설 검정을 다루고 있다. 3장은 실험이나 이론 언어학에서 많이 사용되는 분산 분석과 회귀 분석을 설명하고 있다.
4장은 코퍼스 언어학이나 언어의 통계적인 접근에서 기본이 되는 N-그램을 다루고 있다. 단어의 연쇄나 문장의 확률을 구하는 방법과 실제로 나타나지 않은 언어 구성의 확률을 추정하는 방법이 논의된다. 5장에서는 정보 이론의 관점에서 엔트로피(Entropy)와 최대 엔트로피(Maximum Entropy)를 설명하고 있다. 이 개념들은 수학적 지식이 상당히 요구되기 때문에 언어학 전공자들이 이해하기 어려운 개념이다. 따라서 가급적 쉽게 기술하기 위해 예제를 중심으로 설명하는 방식을 취했다. 6장은 음성 언어 처리에 많이 활용되는 마코프 모델(Markov Model)과 은닉 마코프 모델(Hidden Markov Model)을 실제 분석 과정을 보이면서 설명하고 있다.
따라서 이 책에서는 통계적인 모델에 필요한 수학적인 기초와 몇 가지 중요한 수학적 모델을 설명하는 데 한정하고 이를 유기적으로 연결하는 데 초점을 맞추었다.

머리말
제1장 확률의 기초
1.1 사상과 확률
1.2 조건부 확률
1.3 베이즈 정리
1.4 확률변수와 확률함수
1.5 기댓값과 분산
1.6 확률분포
1.7 결합분포확률

제2장 통계의 기초
2.1 신뢰구간
2.2 t-분포
2.3 카이제곱 분포
2.4 가설검증
2.5 두 모집단에 대한 통계적 검정

제3장 분산분석과 회귀분석
3.1 분산분석
3.2 회귀분석
3.3 통계 소프트웨어 R

제4장 N-그램
4.1 단어와 토큰
4.2 단어 연쇄의 확률
4.3 평탄화
4.4 N-그램의 툴킷

제5장 정보이론: 엔트로피
5.1 엔트로피
5.2 결합 엔트로피와 조건 엔트로피
5.3 상호 정보
5.4 상대적 엔트로피
5.5 교차 엔트로피
5.6 혼잡도
5.7 최대 엔트로피
5.8 최대 엔트로피 툴킷

제6장 은닉 마르코프 모델
6.1 유한상태 오토마타
6.2 마르코프 모델
6.3 은닉 마르코프 모델
6.4 은닉 마르코프 모델 도구

참고문헌
부록
찾아보기
Abstract