AI 자기개선의 병목은 모델이 아니라 하네스에 있다
AI 자기개선의 가까운 병목은 모델 가중치보다 실행·기억·평가를 조율하는 하네스에 있습니다. 실패 기록과 분리된 검증이 왜 핵심인지 정리했습니다.
주제
AI 신뢰성
AI 신뢰성 관련 글을 모았습니다. 유토모 테크로그에서 새 기술과 제품이 일과 제품에 만드는 변화를 살펴봅니다.
Grokipedia의 멈춘 편집 파이프라인이 드러낸 AI 지식 서비스의 과제
Grokipedia의 공개 편집 파이프라인이 4월 말부터 멈춘 정황이 분석으로 드러났습니다. AI 지식 서비스가 갱신·결정·이력 기록을 함께 운영해야 하는 이유를 짚습니다.
생성형 AI가 바꾼다는 소프트웨어 개발, 여덟 가지 통념을 다시 본다
생성형 AI가 개발을 빠르게 만드는 것은 사실이지만, 코드 생성 속도만으로 팀의 전달 속도와 품질을 판단할 수는 없습니다. ACM Queue가 짚은 여덟 통념으로 병목·측정·도입 조건을 다시 봅니다.
AI 시대의 네 가지 우상: 우리는 모델이 아니라 무엇을 오해하는가
프란시스 베이컨의 네 가지 우상으로 AI 사용자의 판단 오류를 다시 읽습니다. 의인화, 개인 경험의 과잉 일반화, 용어의 착시, 그럴듯한 답변에 대한 맹신을 피하는 네 가지 질문을 정리했습니다.
개발자가 도구에 집착하는 이유: 도구는 신뢰를 담아 둔다
AI 코딩 도구 사용은 76%에서 84%로 늘었지만 결과물을 신뢰한다는 응답은 40%에서 29%로 줄었습니다. 도구가 아니라 그 도구를 둘러싼 검증 프로세스가 신뢰를 만든다는 진단입니다.
OpenAI, 수학·이론컴퓨터과학에서 거둔 10가지 진전
OpenAI가 수학·이론컴퓨터과학의 10년 이상 정체된 공개 문제 10개에서 내부 모델 Astra로 새 결과를 냈고, Lean 인증서로 형식 검증까지 공개했습니다.
