권세혁HOME
  • SDV(데이터 가치화)
  • 강의노트
    • 기초수학·수리통계·조사방법
    • 기초통계·회귀·다변량분석
    • 머신러닝·딥러닝
    • AI·감성분석
  • 통계챗봇
  • 오늘의 검색 트렌드
  • 통계, 다르게 읽기
  • 통계로 보는 세상(티스토리 e책방)
  • 데이터 플랫폼
  • 유튜브
  1. 📖 (표본은 어떻게 전체를 말하는가) 빅데이터가 대표성 문제를 해결하지 못하는 이유 — 많다고 대표성이 생기진 않는다
  • 📋 전체 목록

  • 📖 (비율과 백분율의 함정) 인구 1만 명당 범죄율을 사용하는 이유
  • 📖 (비율과 백분율의 함정) 위험이 두 배 증가했다는 뉴스는 얼마나 위험한가?
  • 📖 (비율과 백분율의 함정) 지지율 3% 상승인가, 3%포인트 상승인가?
  • 📖 (비율과 백분율의 함정) 매출이 50% 늘었다는 말에 속지 않는 법
  • 📖 (숫자를 대표하는 방법) 같은 평균, 전혀 다른 세상
  • 📖 (숫자를 대표하는 방법) 연봉은 평균보다 중앙값으로 보아야 하는 이유
  • 📖 (숫자를 대표하는 방법) 우리 반 평균이 올랐는데 학생들은 왜 불만일까?
  • 📖 (숫자를 대표하는 방법) 별점 4.5점짜리 식당은 믿을 만한가?
  • 📖 (숫자를 대표하는 방법) 내 체온 36.5도는 정말 정상인가?
  • 📖 지각하는 사람들의 비밀
  • 📖 대기 시간의 비밀
  • 📖 평균의 함정
  • 📖 p-값은 왜 0.05인가?
  • 📖 카톡 답장 속도와 호감도의 통계학
  • 📖 (그래프는 어떻게 우리를 속이는가) 막대그래프의 축을 자르면 차이가 커진다
  • 📖 (그래프는 어떻게 우리를 속이는가) 두 개의 세로축이 만드는 가짜 상관관계
  • 📖 (그래프는 어떻게 우리를 속이는가) 누적그래프는 왜 항상 좋아 보일까?
  • 📖 (그래프는 어떻게 우리를 속이는가) 선형 눈금과 로그 눈금은 무엇이 다른가?
  • 📖 (그래프는 어떻게 우리를 속이는가) 좋은 그래프는 무엇을 숨기지 않는가?
  • 📖 (사람의 직관은 왜 통계와 충돌하는가) 농구에서 ’슛 감각이 올랐다’는 말은 사실일까?
  • 📖 (사람의 직관은 왜 통계와 충돌하는가) 동전이 다섯 번 앞면이면 다음은 뒷면일까?
  • 📖 (사람의 직관은 왜 통계와 충돌하는가) 성공한 사람만 보면 성공법이 보이지 않는다
  • 📖 (사람의 직관은 왜 통계와 충돌하는가) 시험을 망친 다음 점수가 오르는 이유
  • 📖 (사람의 직관은 왜 통계와 충돌하는가) 기억에 잘 남는 사건이 더 자주 일어난다고 느끼는 이유
  • 📖 (기록의 착시, 대표값의 재발견) 연승과 연패, 우연일까 실력일까
  • 📖 (기록의 착시, 대표값의 재발견) 작은 표본이 만드는 큰 착각 — 야구 타율 3할의 의미
  • 📖 (기록의 착시, 대표값의 재발견) 세대별 평균이 말해주는 진짜 의미 — 평균 키가 자라는 이유
  • 📖 (기록의 착시, 대표값의 재발견) 평균으로 설명되지 않는 데이터들 — 최빈값이 필요한 순간
  • 📖 (기록의 착시, 대표값의 재발견) 평균의 함정 총정리 — 평균 수심 1m 강물이 위험한 이유
  • 📖 (흩어짐과 역설) “보통”의 폭을 재는 법 — 표준편차란 무엇인가
  • 📖 (흩어짐과 역설) 재벌 총수가 낀 동네 평균 소득 — 이상치 하나가 바꾸는 평균
  • 📖 (흩어짐과 역설) 입시에서 표준점수를 쓰는 이유 — 편차값의 비밀
  • 📖 (흩어짐과 역설) 단위가 다른 두 집단을 견주는 법 — 변동계수로 비교하기
  • 📖 (흩어짐과 역설) 부분에서 이기고도 전체에서 지는 이유 — 심슨의 역설
  • 📖 (숫자로 사람을 줄 세우는 법) 숫자 하나로 사회를 요약하기 — 지니계수로 읽는 불평등
  • 📖 (숫자로 사람을 줄 세우는 법) 어느 쪽이 더 공정할까 — 상대평가 vs 절대평가
  • 📖 (숫자로 사람을 줄 세우는 법) 1점 차이가 갖는 진짜 무게 — 순위의 착시
  • 📖 (숫자로 사람을 줄 세우는 법) 5.0과 4.8 사이, 표본크기의 문제 — 별점 평균의 함정
  • 📖 (숫자로 사람을 줄 세우는 법) 별점 대신 순위를 매기는 이유 — 넷플릭스 평점 시스템
  • 📖 (공식 통계 숫자 읽는 법) 평균수명 60세 시대의 오해 — 기대수명이라는 숫자의 함정
  • 📖 (공식 통계 숫자 읽는 법) 나만의 장바구니 물가지수 — 체감 물가와 통계 물가
  • 📖 (공식 통계 숫자 읽는 법) 누구를 세고 누구를 빼는가 — 실업률의 숨은 정의
  • 📖 (공식 통계 숫자 읽는 법) 분모가 다르면 결론도 다르다 — 치명률 숫자 읽는 법
  • 📖 (공식 통계 숫자 읽는 법) 인과추론 감각을 기르는 법 — 미신적 상관관계 모음
  • 📖 (확률과 우연의 세계) 23명만 모여도 생일이 겹칠 가능성이 높은 이유 — 생일 문제
  • 📖 (확률과 우연의 세계) 같은 번호가 연속으로 나오면 조작일까? — 독립사건
  • 📖 (확률과 우연의 세계) 무작위 숫자는 왜 고르게 흩어지지 않는가? — 군집 착각
  • 📖 (확률과 우연의 세계) 로또 번호에 명당이 존재할까? — 동일확률과 선택편향
  • 📖 (확률과 우연의 세계) 희귀한 사건이 매일 뉴스에 나오는 이유 — 다중 기회
  • 📖 (확률의 도구들) 확률을 세는 언어 — 표본공간과 사건이란 무엇인가
  • 📖 (확률의 도구들) “적어도 하나”의 확률 — 여사건으로 풀면 쉬워지는 문제
  • 📖 (확률의 도구들) 경우의 수 세기 — 카드 한 장을 뽑을 때 확률 계산법
  • 📖 (확률의 도구들) 오해하기 쉬운 개념 — 독립이라는 것의 진짜 의미
  • 📖 (확률의 도구들) 복권 기댓값으로 알아보기 — 기댓값이란 무엇인가
  • 📖 (분포가 들려주는 이야기) 세상의 모든 데이터는 정규분포일까? — 정규분포 신화와 한계
  • 📖 (분포가 들려주는 이야기) 키는 정규분포에 가깝고 소득은 그렇지 않은 이유 — 분포 모양이 다른 이유
  • 📖 (분포가 들려주는 이야기) 평균에서 세 표준편차 밖이면 이상한 값일까? — 68-95-99.7 법칙
  • 📖 (분포가 들려주는 이야기) 하루에 걸려오는 전화 수는 어떤 분포를 따를까? — 포아송분포
  • 📖 (분포가 들려주는 이야기) 분포를 모르면 평균도 해석할 수 없다 — 분포 이해의 중요성
  • 📖 (조건부확률과 베이즈의 사고) 검사 결과가 양성이면 정말 병에 걸린 것일까? — 기저율
  • 📖 (조건부확률과 베이즈의 사고) 정확도 99% 검사가 틀릴 수 있는 이유 — 조건부확률
  • 📖 (조건부확률과 베이즈의 사고) 범인이 범행 현장에 있을 확률과 현장에 있던 사람이 범인일 확률 — 조건의 방향
  • 📖 (조건부확률과 베이즈의 사고) 스팸메일 필터는 어떻게 배워가는가? — 베이즈 갱신
  • 📖 (조건부확률과 베이즈의 사고) 새로운 증거가 들어오면 믿음도 바뀌어야 한다 — 베이지안 사고
  • 📖 (위험과 불확실성을 이해하는 법) 비 올 확률 60%는 무슨 뜻인가? — 확률적 예보 읽는 법
  • 📖 (위험과 불확실성을 이해하는 법) 100년 빈도 홍수는 100년에 한 번만 오는가? — 재현빈도의 오해
  • 📖 (위험과 불확실성을 이해하는 법) 보험회사는 어떻게 사고를 예측하는가? — 기대손실
  • 📖 (위험과 불확실성을 이해하는 법) 발생 가능성은 낮지만 피해가 큰 사건을 어떻게 볼 것인가? — 저확률·고피해 리스크
  • 📖 (위험과 불확실성을 이해하는 법) 위험은 확률과 피해 크기의 결합이다 — 위험 평가의 원칙
  • 📖 (확률의 뒷이야기) 문을 바꾸면 정말 유리할까 — 몬티홀 문제
  • 📖 (확률의 뒷이야기) 시행이 많아질수록 진짜 확률에 가까워지는 이유 — 큰 수의 법칙
  • 📖 (확률의 뒷이야기) 벼락 맞을 확률과 나란히 놓아보면 — 로또 1등의 확률
  • 📖 (확률의 뒷이야기) 그럴듯하게 느껴지는 이유 — 혈액형 성격론과 바넘 효과
  • 📖 (확률의 뒷이야기) 우연과 확증편향 사이 — 징크스는 통계적으로 존재할까
  • 📖 (위험 인식과 승부의 확률) 무엇이 더 위험한지 확률로 따져보면 — 비행기 vs 자동차
  • 📖 (위험 인식과 승부의 확률) 절대적 숫자와 상대적 숫자 — 백신 부작용 확률 읽는 법
  • 📖 (위험 인식과 승부의 확률) 확률적 행운이 바꾼 삶 — 복권 당첨자들의 그 후
  • 📖 (위험 인식과 승부의 확률) 먼저 차는 팀이 유리한 이유 — 승부차기의 심리 확률
  • 📖 (위험 인식과 승부의 확률) 숫자로 검증한 홈어드밴티지 — 홈그라운드의 이점
  • 📖 (우연을 다루는 더 깊은 생각) 오늘 날씨가 내일 날씨에 미치는 영향 — 마르코프 체인 쉽게 이해하기
  • 📖 (우연을 다루는 더 깊은 생각) 복잡한 사건을 가지 치듯 풀어내기 — 확률나무 그려보기
  • 📖 (우연을 다루는 더 깊은 생각) 컴퓨터로 확률을 추정하는 법 — 몬테카를로 시뮬레이션이란
  • 📖 (우연을 다루는 더 깊은 생각) 확률이 낮아도 불가능은 아니다 — 무한 원숭이 정리
  • 📖 (우연을 다루는 더 깊은 생각) 우연과 필연 사이 — 확률적 사고를 마무리하며
  • 📖 (표본은 어떻게 전체를 말하는가) 국 한 숟가락으로 냄비 전체의 맛을 알 수 있을까? — 표본조사의 비유
  • 📖 (표본은 어떻게 전체를 말하는가) 전 국민을 조사하지 않아도 되는 이유 — 표본조사
  • 📖 (표본은 어떻게 전체를 말하는가) 표본이 크면 언제나 정확할까? — 표본 크기의 함정
  • 📖 (표본은 어떻게 전체를 말하는가) 빅데이터가 대표성 문제를 해결하지 못하는 이유 — 많다고 대표성이 생기진 않는다
  • 📖 (표본은 어떻게 전체를 말하는가) 표본의 크기보다 뽑는 방법이 중요하다 — 표본추출 방법의 중요성

목차

  • 수억 건의 검색어로 독감을 예측하다
  • 그런데 두 배 가까이 틀렸다
  • 왜 데이터가 커도 대표성은 저절로 생기지 않을까
  • 더 깊이: 확률표본이 활용되는 이유
  • SDV 관점: 데이터의 양보다 수집 설계가 가치를 결정한다
  • 결론: 많다고 믿지 말고, 대표하는지를 물어라

(표본은 어떻게 전체를 말하는가) 빅데이터가 대표성 문제를 해결하지 못하는 이유 — 많다고 대표성이 생기진 않는다

통계기초
표본조사
2008년 구글은 검색어만으로 독감 유행을 CDC보다 빠르게 예측한다며 주목받았다. 그런데 2013년, 구글 독감 트렌드는 실제 유행 규모를 거의 두 배 가까이 과대 예측했다. 수억 건의 검색 데이터로도 풀지 못한 문제가, 작지만 제대로 설계된 표본에는 없었던 이유를 짚어본다.
Author

권세혁

Published

November 19, 2026

수억 건의 검색어로 독감을 예측하다

2008년 구글은 ’구글 독감 트렌드(Google Flu Trends)’라는 서비스를 선보였다. 사람들이 “독감 증상”, “해열제” 같은 검색어를 입력하는 패턴을 분석해, 미국 질병통제예방센터(CDC)보다 1~2주 빠르게 독감 유행 시기를 예측할 수 있다는 것이었다. 데이터의 규모는 압도적이었다. 매주 수억 건에 달하는 검색어 데이터를 실시간으로 분석했으니, 전통적인 설문조사나 병원 보고 체계와는 비교할 수 없이 “큰” 데이터였다.

그런데 두 배 가까이 틀렸다

이 서비스는 2009년 신종플루(H1N1)의 세계적 유행을 제때 포착하지 못했고, 2013년 겨울에는 실제 독감 유행 규모를 거의 두 배 가까이 과대 예측하는 오류를 범했다. 후속 연구에 따르면 2011~2013년 사이 108주 가운데 100주 동안 독감 유행을 과대 예측했다. 원인 중 하나로 꼽힌 것은, 언론이 특정 지역의 독감 경보를 크게 보도하면서 실제로는 독감에 걸리지 않은 사람들까지 관련 검색어를 입력하는 일이 크게 늘었다는 점이다. 결국 네이처(Nature)지는 이 서비스가 기존의 역학조사 체계를 대체할 수 없다고 비판했고, 구글은 이 서비스를 종료했다.

Google Flu Trends’ prediction error pattern (based on published post-mortem analyses): out of 108 tracked weeks (2011-2013), about 100 weeks saw the service overestimate true flu prevalence, sometimes by roughly double. More data did not translate into more accuracy.

왜 데이터가 커도 대표성은 저절로 생기지 않을까

검색 데이터가 아무리 방대해도, 그 데이터는 애초에 “독감에 걸린 사람”을 대표하도록 설계된 것이 아니라 “구글에 특정 단어를 검색한 사람”을 모은 것이다. 독감 증상이 있어서 검색한 사람과, 뉴스를 보고 불안해서 검색한 사람을 데이터만으로는 구별할 수 없었다. 통계학자 샤오리 멍(Xiao-Li Meng)은 이런 현상을 “빅데이터의 역설”이라 부르며, 데이터의 양이 아무리 늘어도 표본이 편향되어 있으면 추정의 신뢰도는 거의 개선되지 않는다는 것을 수학적으로 보였다. 표본 크기를 \(n\), 모집단 크기를 \(N\)이라 할 때, 추정의 오차는 표본과 모집단 사이의 상관관계(데이터 품질 결함)에 의해 지배되고, 이 상관관계가 조금이라도 있으면 \(n\)이 커질수록 오히려 겉보기에만 더 “확신에 찬” 틀린 답을 내놓을 수 있다.

How estimation error behaves as a biased big-data sample grows, compared with a small, properly randomized sample, when there’s a small but real correlation between who gets sampled and the thing being measured (Xiao-Li Meng’s ‘big data paradox’). The biased estimate’s apparent precision (how tightly repeated estimates cluster) improves with size, but its distance from the true value does not shrink - it can even look falsely more confident while staying wrong.

편향된 빅데이터 표본은 크기가 커질수록 추정값들이 서로 가까이 모이지만(오차막대가 줄어들지만), 그 중심은 참값에서 계속 벗어나 있다. 반면 작지만 무작위로 뽑힌 표본은 애초에 참값 근처에 있다. “확신에 차 보이는 것”과 “맞는 것”은 다르다.

빅데이터를 마주할 때 확인할 것
  1. 데이터가 원래 무엇을 측정하려고 모인 것인지 물어라. 검색어는 “독감 환자”가 아니라 “검색한 사람”을 측정한다.
  2. 데이터의 양과 대표성을 분리해서 평가하라. 양이 많다고 대표성이 자동으로 따라오지 않는다.
  3. 작은 공식 통계와 대조해보라. 전통적인 역학조사나 설문조사가 작아도 더 정확할 수 있다.
  4. “더 많은 데이터”보다 “더 적절한 데이터”를 우선하라. 빅데이터는 전통적 통계를 보완하는 도구이지, 대체하는 마법이 아니다.

더 깊이: 확률표본이 활용되는 이유

강의노트 〈수리통계학 4. 표본분포 — 확률표본 활용〉은 확률표본이 모집단에 대한 타당한 추론을 가능하게 하는 근거를 설명한다. 구글 독감 트렌드의 검색어 데이터는 양은 거대했지만, 애초에 “확률표본”이 아니었다 — 모집단(독감에 걸릴 수 있는 모든 사람)에서 알려진 확률로 뽑힌 것이 아니라, 검색이라는 행동을 보인 사람들만 자기선택적으로 모인 데이터였다. 확률표본의 정의를 만족하지 못하면, 아무리 커도 추론의 근거로 삼기 어렵다.

SDV 관점: 데이터의 양보다 수집 설계가 가치를 결정한다

빅데이터의 대표성 문제를 이해하는 일은 통계적 학습(3단계)으로 넘어가기 전에 반드시 점검해야 할 요약과 추론(1~2단계)의 전제조건이며, SDV(통계적 데이터 가치화) 관점에서는 AI·빅데이터 시대에 통계학자가 할 가장 중요한 역할 중 하나다. 데이터가 넘쳐나는 시대일수록, “이 데이터가 양이 많다”는 사실과 “이 데이터가 내가 알고 싶은 것을 대표한다”는 사실을 혼동하기 쉽다. 데이터에 가치를 더하는 통계학자는 모델을 더 복잡하게 만들기 전에, 그 데이터가 애초에 올바른 질문에 답할 자격이 있는지부터 검증한다. (SDV(데이터 가치화))

결론: 많다고 믿지 말고, 대표하는지를 물어라

나는 학생들에게 “데이터가 몇 건이다”라는 말을 들으면 감탄하기 전에 “그 데이터가 누구를, 어떻게 모은 것인가”를 먼저 물으라고 말한다. 구글 독감 트렌드는 수억 건의 데이터로도 풀지 못한 문제를, 전통적인 역학조사는 훨씬 적은 데이터로 더 안정적으로 다뤘다. 양은 질을 대신하지 못한다.

참고 자료
  • 구글 독감 트렌드의 2013년 과대 예측(약 2배)과 108주 중 100주 과대 예측 분석은 Lazer 외(2014) “The Parable of Google Flu”에 관한 보도를 참고했다: 네이처 “구글 ‘독감 트렌드’ 맹신 말라” — 블로터
  • 샤오리 멍(Xiao-Li Meng)의 “빅데이터 역설”은 통계학 문헌에서 널리 인용되는 개념이다.
  • 두 번째 그림의 구체적인 수치는 빅데이터 역설의 작동 방식을 보여주기 위한 가상의 시뮬레이션이다.
권세혁 교수의 통계책방 사이트 소개 슬라이드 (클릭하면 크게 보기)
사이트 소개 슬라이드 확대
 
 

방문자 수 since 2026.08.08