AI 에이전트에 수익 목표를 맡기기 전, 통제 규칙부터 점검해야 하는 이유 (Claude Opus 5)
Andon Labs의 Vending-Bench에서 Claude Opus 5는 수익 1위를 기록했지만, 담합·환불·외부 거래 사례는 수익 목표와 실행 권한을 분리해야 하는 이유를 보여 줍니다.
주제
AI
AI 관련 글을 모았습니다. 유토모 테크로그에서 새 기술과 제품이 일과 제품에 만드는 변화를 살펴봅니다.
업무 자동화를 한 흐름으로 묶을 때, Claude의 새 에이전트 도구를 어디에 쓸까
Anthropic이 일반 제공으로 전환한 Computer Use·Skills API·Files API를 한 업무 흐름에 배치하는 기준을 정리했습니다. API, 웹 화면, 데스크톱 화면의 역할을 나눠 자동화 범위를 설계할 수 있습니다.
업무 대화가 AI의 지식이 될 때, Slack 팀이 먼저 정할 접근 규칙
Slack과 Anthropic은 AI 에이전트가 업무 맥락을 활용하려면 공유 채널과 비공개 채널의 접근 규칙부터 정해야 한다고 제안했습니다. 초안·요약은 에이전트에게 맡기고 결정은 사람이 맡는 운영 기준을 정리합니다.
메시지를 AI에 연결하기 전 확인할 권한, ChatGPT의 macOS 플러그인
ChatGPT macOS의 Apple Messages 플러그인은 대화 검색과 메시지 발송을 연결합니다. 기본 승인, 대화별 지속 승인, 권한 철회 경로를 구분해 정리했습니다.
가짜 이미지 판별이 업무가 될 때, 콘텐츠팀이 바꿔야 할 검증 흐름 (Google DeepMind Backstory)
Google DeepMind의 Backstory가 이미지 생성 여부와 사용 이력, 변형 흔적을 함께 조사하면서 콘텐츠팀의 검증 흐름을 바꾸고 있습니다.
AI 답변의 속마음을 감시하니 계산 비용이 20% 늘었다, 오픈AI의 선택
오픈AI가 프런티어 모델 학습·평가 전 구간에 다단계 사고 과정 감시를 적용하면서, 감시 대상 연산이 약 20% 더 든다고 밝혔습니다. 이 비용은 고객에게 넘기지 않고 회사가 직접 부담합니다.
AI가 무섭다는 미국인이 늘고 있다, 열광보다 불안이 앞선 이유
퓨 리서치 센터 설문에서 미국 성인의 52%가 AI 사용 확대에 기대보다 걱정이 크다고 답했습니다. 2021년 37%보다 늘었고, 18~29세는 처음으로 55%를 기록했습니다.
AI가 쓴 글에 몰래 새기는 표식, 품질을 깎을 수 있다는 경고 (Anthropic Claude watermark)
앤트로픽이 클로드 텍스트 워터마킹의 작동 원리를 공식 공개했습니다. 존 그루버는 바로 이 설명 안에서 워터마킹 구조 자체가 품질을 깎을 수밖에 없다는 근거를 찾아냈습니다.
아무나 AI로 제품을 만드는 시대에도 프로덕트 매니저가 여전히 필요한 이유
마티 케이건이 벤 에반스의 글을 인용해 AI 시대에도 프로덕트 매니저가 필요한 이유를 정리했습니다. 핵심은 도구를 쓰는 능력과 만드는 능력이 서로 다른 스킬이라는 점입니다.
AI 에이전트끼리 일하는 시대, Anthropic이 경고한 예상 밖 부작용
Anthropic 프런티어 레드팀은 AI 에이전트 여럿이 함께 일할 때 협업이 도움이 되는 경우와 목표 충돌·정보 오판으로 시스템 전체가 무너지는 경우를 실험으로 확인했습니다.
AI가 개발자 조직의 허리를 없애고 있다는 경고
소프트웨어 엔지니어 플로리안 헤렌트는 AI가 구현 속도의 상한선을 없애면서 판단력 있는 엔지니어와 없는 엔지니어의 몸값 격차를 더 벌린다고 주장했습니다. 되돌리기 어려운 결정이 하루 만에 쌓이는 구조를 짚었습니다.
출시 속도 압박이 오픈AI 에이전트 해킹 사고로 이어진 과정
새 모델과 제품을 서둘러 내놓으라는 오픈AI 내부 압박이 안전·보안 검토를 밀어냈고, 그 결과가 허깅페이스를 침해한 에이전트 해킹 사고로 이어졌다는 현직·전직 직원들의 증언을 정리했습니다.
