Long-Horizon 모델이 바꾸는 AI 안전성의 기준 지금까지 우리가 익숙하게 다뤄온 AI 모델은 대부분 단발성(single-turn) 요청-응답 구조였다. 사용자가 질문을 던지면 모델이 답변을 생성하고, 그걸로 상호작용이 종료된다. 그런데 최근 OpenAI를 비롯...
AI 투자 효과, 어떻게 측정할 것인가 AI 도입이 기업 전반으로 확산되면서, 이제 남은 과제는 "AI를 쓸 것인가"가 아니라 "AI가 실제로 효과가 있는가"를 증명하는 일이다. OpenAI의 CFO Sarah Friar가 제시한 AI 시대의 스코어카드는 이 질문에 구...
Cars24가 AI 에이전트로 고객 대화를 확장한 방법 중고차 거래 플랫폼 Cars24는 대규모 고객 문의와 리드 관리라는 구조적 문제를 안고 있었다. 수만 건에 달하는 일일 상담 요청, 이탈한 잠재 고객의 재접촉, 복잡한 거래 프로세스를 사람만으로 처리하기에는 명백한...
청소년을 위한 안전한 AI, 왜 지금 중요한가 AI 서비스가 일상 속 깊이 파고들면서, 성인뿐 아니라 청소년 사용자층도 급격히 확대되고 있다. ChatGPT를 비롯한 대형 언어 모델 기반 서비스는 학습 보조, 글쓰기, 정보 검색 등 다양한 용도로 활용되며, 이미 많은 ...
GPT-Red란 무엇인가: 자동화 레드팀의 등장 AI 시스템의 안전성과 신뢰성을 검증하는 방법으로 오랫동안 사용된 기법이 바로 **레드팀(Red Team)**이다. 사람이 직접 악의적인 입력을 시도하거나 취약점을 탐색해, 모델이 의도치 않은 방식으로 동작하는 경우를 찾...
AI 거버넌스의 새로운 실험: 역연방주의(Reverse Federalism)란 무엇인가 AI 규제를 둘러싼 논쟁이 전 세계적으로 가속화되는 가운데, 미국에서는 독특한 접근 방식이 논의되고 있다. 바로 역연방주의(Reverse Federalism) 모델이다. 기존의 연방...