AI가 무섭다는 미국인이 늘고 있다, 열광보다 불안이 앞선 이유
퓨 리서치 센터 설문에서 미국 성인의 52%가 AI 사용 확대에 기대보다 걱정이 크다고 답했습니다. 2021년 37%보다 늘었고, 18~29세는 처음으로 55%를 기록했습니다.
주제
AI 신뢰성
AI 신뢰성 관련 글을 모았습니다. 유토모 테크로그에서 새 기술과 제품이 일과 제품에 만드는 변화를 살펴봅니다.
의회 법안까지 AI가 초안을 쓰는 시대: 미국 하원 법률 자문실이 고치는 데 더 많은 시간을 쓰는 이유
미국 하원에서 법안 문구를 다듬는 법률자문실이 AI가 만든 초안을 고치는 데 처음부터 새로 쓰는 것보다 더 많은 시간을 쓰고 있습니다. 관계자 8명의 인터뷰를 근거로 한 폴리티코 보도를 정리했습니다.
이스라엘 정부가 만든 가짜 싱크탱크, 목표는 사람이 아니라 챗봇을 설득하는 것
이스라엘 정부가 자금을 댄 웹사이트가 싱크탱크 형식의 보고서를 쏟아내며 실제로는 챗봇의 답변을 겨냥하고 있다는 사실을 확인했습니다.
AI가 쓴 글에 몰래 새기는 표식, 품질을 깎을 수 있다는 경고 (Anthropic Claude watermark)
앤트로픽이 클로드 텍스트 워터마킹의 작동 원리를 공식 공개했습니다. 존 그루버는 바로 이 설명 안에서 워터마킹 구조 자체가 품질을 깎을 수밖에 없다는 근거를 찾아냈습니다.
AI 에이전트끼리 일하는 시대, Anthropic이 경고한 예상 밖 부작용
Anthropic 프런티어 레드팀은 AI 에이전트 여럿이 함께 일할 때 협업이 도움이 되는 경우와 목표 충돌·정보 오판으로 시스템 전체가 무너지는 경우를 실험으로 확인했습니다.
유럽연합 AI법이 요구하는 워터마킹, 앤트로픽도 회의적인 이유
앤트로픽이 EU AI법에 맞춰 Claude 텍스트에 워터마크를 심습니다. 하지만 심한 편집·의역·번역을 거치면 표시가 사라질 수 있다는 한계를 앤트로픽 스스로 밝혔습니다.
AI 리뷰가 빨라져도 품질은 보장되지 않는 이유
207개 오픈소스 프로젝트의 PR 102만 건을 분석한 연구에서 AI 에이전트 리뷰는 결정을 앞당길 수 있었지만, 반복 검토자 편중 같은 품질 위험 신호는 줄지 않았습니다.
AI 요약이 원문을 대체하면서 인터넷의 기억이 사라지고 있다
구글 AI 요약이 원문 클릭을 대신하면서 언론사·위키백과·인터넷 아카이브 같은 원문 보존 기반이 함께 흔들리고 있는 상황을 정리했습니다.
사람이 직접 썼다는 의료 연구 대행사, 알고 보니 전부 AI였다
"100% 인간 작성"을 내세운 의료 연구 대행사 Research Gold의 팀·응대가 전부 AI로 확인됐습니다. 가상 인물, 도용된 실명, AI 상담원까지 404 Media 취재로 밝혀진 실체를 정리합니다.
상용 AI 모델의 생각 과정이 암호화돼 있어도 유출될 수 있다는 연구 결과
OpenAI·Anthropic·Google 모델의 암호화된 추론 과정을 더 작은 형제 모델로 복원할 수 있다는 연구 결과를 정리했습니다. 개인정보 유출 경로는 패치됐지만 증류 우려는 남아 있습니다.
AI로 만든 파일의 출처를 증명해야 할 때, Claude의 새 표시 기능
Claude가 생성·처리한 텍스트와 지원 파일에 기계가 읽을 수 있는 표시를 붙입니다. 워터마크와 C2PA 메타데이터가 알려 주는 범위, 파일 기록을 함께 남겨야 하는 이유를 설명합니다.
Airbnb의 평가 주도 개발: 생성형 AI 기능을 제품화하는 기준
Airbnb는 생성형 AI 기능의 품질을 출시 직전 점검이 아니라 개발의 입력으로 다루는 평가 주도 개발을 제시했습니다. 실제 오류를 기준으로 코드 검사·LLM 심판·사람의 판단을 연결하는 방법을 정리합니다.
