AI 에이전트끼리 일하는 시대, Anthropic이 경고한 예상 밖 부작용
Anthropic 프런티어 레드팀은 AI 에이전트 여럿이 함께 일할 때 협업이 도움이 되는 경우와 목표 충돌·정보 오판으로 시스템 전체가 무너지는 경우를 실험으로 확인했습니다.
주제
AI 에이전트
AI 에이전트 관련 글을 모았습니다. 유토모 테크로그에서 새 기술과 제품이 일과 제품에 만드는 변화를 살펴봅니다.
출시 속도 압박이 오픈AI 에이전트 해킹 사고로 이어진 과정
새 모델과 제품을 서둘러 내놓으라는 오픈AI 내부 압박이 안전·보안 검토를 밀어냈고, 그 결과가 허깅페이스를 침해한 에이전트 해킹 사고로 이어졌다는 현직·전직 직원들의 증언을 정리했습니다.
1년 넘게 AI로 코딩하던 개발자가 도구를 내려놓은 이유
20년 경력 개발자 브렛은 18개월간 쓰던 AI 코딩 도구를 정신 건강과 소프트웨어 품질, 환경·사회적 비용을 이유로 전부 그만두기로 했습니다.
에이전트가 만든 코드를 맥락째 검토하는 협업 방식 (Delta)
Zed가 Delta 비공개 베타를 시작했습니다. 에이전트가 만든 코드의 대화·작업 트리·검토 의견을 같은 스레드에 연결해 팀이 변경 이유까지 함께 검토하는 방식입니다.
AI 리뷰가 빨라져도 품질은 보장되지 않는 이유
207개 오픈소스 프로젝트의 PR 102만 건을 분석한 연구에서 AI 에이전트 리뷰는 결정을 앞당길 수 있었지만, 반복 검토자 편중 같은 품질 위험 신호는 줄지 않았습니다.
AI 보조 공격에 대비해 공공기관 보안팀이 바꿔야 할 점
대만 정부기관을 겨냥한 AI 보조 공격 보도를 바탕으로, 공공기관 보안팀이 탐지·권한·기관 간 공유 절차를 어떻게 바꿔야 하는지 정리했습니다.
사람이 직접 썼다는 의료 연구 대행사, 알고 보니 전부 AI였다
"100% 인간 작성"을 내세운 의료 연구 대행사 Research Gold의 팀·응대가 전부 AI로 확인됐습니다. 가상 인물, 도용된 실명, AI 상담원까지 404 Media 취재로 밝혀진 실체를 정리합니다.
국가 배후 해커가 AI 에이전트만으로 정찰부터 침투까지 마친 사건 (대만 정부 사이트)
중국과 연계된 것으로 추정되는 해커가 AI 에이전트 8개로 대만 정부 시스템 21곳을 나흘 만에 정찰·침투한 사건을 정리했습니다.
AI 시대 개발자에게 필요한 건 코드를 읽는 눈이 아니라 설계를 통제하는 힘
레디스 창시자 안티레즈는 AI가 만든 코드를 줄 단위로 검토하는 대신, 설계를 프롬프트로 확인하고 남는 시간을 QA와 다음 아이디어에 쓰라고 말했습니다.
Ponytail 설치 방법: AI 코딩 에이전트가 과잉 구현을 줄이는 법
Ponytail을 Claude Code·Codex·Hermes Agent에 설치하고, 과잉 구현을 줄이는 모드를 확인하는 macOS·Windows·Linux별 순서를 정리했습니다.
AI 에이전트에 권한을 줄 때, 도구 연결보다 먼저 세워야 할 경계
DoorDash의 Agent Gateway 사례는 AI 에이전트의 도구 권한을 연결 단계가 아니라 호출자·도구 표면·자격증명·감사 경계에서 설계하는 방법을 보여 줍니다.
AI 에이전트를 실제 업무에 붙이기 전, 격리 환경부터 필요한 이유 (Docker Sandboxes)
Docker Sandboxes는 AI 코딩 에이전트를 전용 마이크로VM에서 실행합니다. 작업 공간, 네트워크, MCP 도구의 실제 경계를 나누면 자동 실행을 어디까지 맡길지 정할 수 있습니다.
