건강 질문에 AI 챗봇을 먼저 쓰는 사람이 늘고 있다. Pew Research Center가 2026년 6월 22~28일 미국 성인 3,488명을 조사한 결과, 34%는 건강·의료 관련 이유 가운데 적어도 하나를 위해 AI 챗봇을 써 본 적이 있다고 답했다. 빠르게 건강 정보를 얻기 위해 쓴다는 응답은 28%, 증상의 원인을 알아보기 위해 쓴다는 응답은 25%였다. 15%는 병원에 갈지 판단하는 데 쓴다고 답했다.
같은 조사에서 외로움·우울·스트레스 지원에 챗봇을 쓰는 사람에게 챗봇이 더 해롭다고 본 비율은 도움이 된다고 본 비율보다 높았다. 서비스가 건강 정보를 설명하는 데서 증상 판단, 정서 지원, 행동 결정으로 넓어질수록 사용자가 어디까지 맡길 수 있는지 제품 안에서 분명히 보여 줘야 한다.
사람들은 건강 챗봇에 무엇을 맡기고 있나
건강 챗봇은 빠른 정보 탐색뿐 아니라 치료 정보와 의사 진단을 더 알아보기, 검사 결과 이해하기에도 쓰였다. 각각 20~22%가 이런 이유를 들었고, 무료 또는 저비용이라는 응답도 22%였다. 개인 건강 정보를 챗봇과 공유하는 데 매우 또는 아주 편하다는 사용자는 29%, 별로 또는 전혀 편하지 않다는 사용자는 26%였고 42%는 어느 정도 편하다고 답했다. “설명해 달라”는 입력은 민감한 정보와 다음 행동의 결정을 함께 부를 수 있다.
첫 안전선은 답변 범위를 고정하는 일이다
건강 서비스를 운영한다면 먼저 질문을 같은 대화 상자에 쌓지 말고 목적별로 나눌 필요가 있다. 일반 정보의 출처와 요약, 이미 받은 검사·진료 정보의 이해, 증상에 따른 다음 행동, 정서적 지지와 위기 대응은 서로 다른 작업이다. 앞의 두 범주는 출처를 붙인 설명과 사용자가 확인할 원문을 중심으로 설계할 수 있다. 뒤의 두 범주는 진단명이나 치료 선택을 대신하는 답을 피하고, 즉시 도움을 받아야 할 신호가 보이면 지역의 긴급 도움 경로와 의료기관 연결을 우선해야 한다.
이 구분은 경고 문구 하나를 답변 끝에 붙이는 일과 다르다. 입력 화면에서 사용 목적을 먼저 고르게 하고, 대화 중 목적이 바뀌면 해당 흐름으로 전환해야 한다. 예를 들어 “검사 결과의 용어를 풀어 달라”는 요청에는 출처·날짜·모르는 항목을 드러내는 설명이 맞고, “오늘 이 약을 끊어도 되나”는 요청에는 사용자가 혼자 결정하도록 밀어붙이지 않는 경로가 맞다.
두 번째 안전선은 위험 신호를 만났을 때의 전환이다
운영 규칙에는 답변을 계속 생성하지 않을 조건을 넣어야 한다. 자해·타해 위험, 호흡 곤란이나 의식 저하처럼 즉시 대응이 필요한 표현, 처방약의 복용·중단을 지금 결정해 달라는 요청은 일반 대화 품질 지표로 처리할 수 없다. 이런 경우에는 긴 설명보다 현지 긴급 연락처, 가까운 응급 의료기관, 신뢰할 수 있는 사람에게 알리는 행동을 먼저 제시하고, 챗봇이 대체 진단을 이어 가지 않게 해야 한다. 국가와 서비스 지역이 다르면 연결할 연락처와 안내 문구도 배포 지역별로 관리해야 한다.
세 번째 안전선은 개인정보를 묻기 전부터 시작된다
건강 정보는 대화가 시작된 뒤에야 민감해지는 것이 아니다. 서비스는 증상, 약 이름, 검사 결과, 사진을 입력받기 전에 무엇을 저장하는지, 모델 개선에 쓰는지, 사용자가 삭제하거나 내보낼 수 있는지를 같은 화면에서 알려야 한다. 편리한 기본값으로 긴 보관 기간이나 학습 이용을 먼저 선택해 두면, 사용자는 정보를 설명받기 위해 필요한 범위와 서비스가 보관하려는 범위를 구분하기 어렵다.
안전선은 운영 지표로 관리해야 한다. 일반 정보 질문의 출처 제시율, 의료 판단으로 넘어가는 요청의 전환 성공률, 위기 신호에서 사람 도움 경로가 먼저 노출되는 비율, 삭제 요청 처리 시간을 따로 본다. Pew 조사에서 건강 챗봇 사용자는 얻은 정보를 대체로 유용하다고 평가했지만, 정서적 지원에 대한 전체 인식은 더 조심스러웠다. 서비스 운영자는 이 차이를 “더 자연스러운 답변”으로 메우기보다, 어디까지 도울지와 언제 넘길지를 제품 동작으로 밝혀야 한다.
출처: Pew Research Center, “Do Americans think chatbots help or hurt people using them for loneliness, depression or stress?”; Pew Research Center, “From Diagnoses to Treatments, Why Americans Use AI Chatbots for Health” (2026-08-25).