전체 뉴스

2026.09.18

Characterizing Web Search by Conversational LLM Agents: From Search Decisions and Strategies to Results and Responses

전체 요약

대화형 LLM 에이전트들이 웹 검색을 어떻게 사용하는지 처음으로 연구했습니다. ChatGPT, Claude, Grok, DeepSeek 네 가지 플랫폼에서 실제 사용자와 실험을 통해 웹 검색의 품질과 전략을 분석했어요. 각 플랫폼마다 웹 검색 결정이 다르고, 더 자주 웹 검색을 하더라도 답변 품질은 항상 좋아지지는 않아요. 이 연구는 대화형 에이전트들이 어떻게 웹 정보를 활용하는지를 알려줍니다.

2026.09.18

A Unified Evaluation Framework for Trustworthy Large Language Models, Agentic AI, and Multimodal Systems

전체 요약

이 연구는 대형 언어 모델, 에이전트 AI 및 다중모드 시스템의 신뢰성 평가를 위한 통합 프레임워크를 제안합니다. 이 프레임워크는 능력, 안정성, 공정성 등 8개의 신뢰성 차원을 통해 시스템 성능과 증거의 신뢰성을 함께 평가합니다. 그러나 구체적인 데이터나 수치가 없어 정보 부족이 있습니다.

2026.09.18

Geopolitical Divisions Across Languages in Large Language Models

전체 요약

AI 챗봇이 세계 이벤트를 설명할 때 언어에 따라 정치적 답변이 달라질 수 있다는 연구 결과가 나왔습니다. 같은 질문을 영어와 러시아어로 하면 GPT, Claude, Gemini 등 AI 시스템의 대답이 다르게 나옵니다. 특히 공식 언어를 기준으로 그룹화하면, 러시아에 친화적인 답변이 더 많이 나오는 나라들이 러시아를 더 좋아하는 경향을 보입니다. 이 연구는 정보 전쟁이 AI 모델 학습 자료에 영향을 줄 수 있다는 것을 시사합니다.

2026.09.18

Safety Beyond the Interface: Detecting Harm via Latent States in Large Language Models

전체 요약

대형 언어 모델이 해로운 내용을 인식할 수 있다는 연구 결과가 나왔습니다. 이 연구는 대형 언어 모델 내부의 상태를 분석하여 해로운 입력을 미리 감지하는 방법을 제시합니다. 이를 통해 안전성 검사 시간과 계산 비용을 줄일 수 있습니다.

2026.09.18

Reproducibility is not construct validity: LLM measurement of institutionally situated communication

전체 요약

연구자들은 AI 모델이 실제 의사소통을 정확하게 측정하는지 확인하기 위해 실험을 진행했습니다. 대화 내용을 자세히 분석한 결과, AI가 정확하게 이해하고 반영하지 못한다는 결론을 얻었습니다. 이 연구는 AI 기술의 한계를 보여주며, AI 모델이 실제 상황에서 얼마나 잘 작동하는지에 대한 의문을 제기합니다.

2026.09.18

What Do We Expect from LLMs? Mapping the Design of LLM Benchmarks

전체 요약

이 연구는 대형 언어 모델(LLM) 평가를 위한 다양한 테스트 방법을 분석합니다. 2022년부터 2026년까지의 1만 4,767편의 논문을 살펴보며, LLM들이 어떻게 평가되고 성공 기준이 바뀌는지 알아봅니다. 연구자들은 LLM들이 실제 업무에서 잘 수행할 수 있는 능력을 더 중요하게 생각하고 있습니다. 하지만 모델이 직접 만든 자료는 크게 늘지 않았습니다. 이 결과는 AI 테스트가 독립적인 증거를 제공하는 것인지, 아니면 모델의 선호도를 반영하는 것인지에 대한 질문을 던집니다.

2026.09.18

Contagion on the Trading Floor: How Adversarial Signals Spread in Multi-Agent Trading Systems

전체 요약

AI 트레이딩 시스템이 위험한 신호를 받아들이는 것을 연구했습니다. AI가 사회 미디어에서 정보를 받으면, 그 정보가 분석가에게 잘못된 영향을 줄 수 있다는 것입니다. 실험에서는 간단한 공격도 AI의 성능을 크게 떨어뜨릴 수 있음을 보여주었습니다.

2026.09.18

From "Who Is This User?" to "What Does This Purchase Mean?": A Deployed Pipeline for Semantic User Profiling at Bank Scale

전체 요약

이번 뉴스는 은행에서 사용자의 특성을 자동으로 분석하는 새로운 방법을 소개합니다. 과거 거래 기록을 바탕으로, AI가 자주 발생하는 거래 패턴을 찾아내고 그 특징을 정리합니다. 이 방식은 한 사람당 비용이 줄어들게 되어 많은 사용자를 처리할 수 있게 됩니다. 실제로 일본의 큰 은행에서 이 방법을 적용해 100만 명 이상의 사용자에 대한 분석을 훨씬 효율적으로 수행했습니다.

2026.09.18

클로드로 오픈AI 뚫었다…직원 계정 넘어 핵심 코드까지 접근

전체 요약

안트로픽의 AI 모델 클로드가 보안 연구원들에 의해 오픈AI 직원의 챗GPT 계정과 회사의 핵심 소프트웨어 저장소까지 접근된 것으로 드러났다. 이는 AI 기술이 빠르게 발전하면서 기업 보안 위험이 커지고 있음을 보여준다.

2026.09.18

Forget doomsday: The AI hacking crisis is here

전체 요약

최근 AI 기술의 발전으로 인해 해커들이 새로운 공격 방법을 찾고 있습니다. 이는 일반 사용자들에게도 큰 위협이 될 수 있어 주의가 필요합니다(원문에 구체적 데이터 미제시). 이 문제는 AI 보안 연구 분야에서 중요한 이슈로 부상하고 있으며, 이를 무시하면 안 됩니다.