최신 뉴스

전체 뉴스

가장 최근에 발행된 뉴스부터 확인하세요.

주제별로 좁혀보기 · 정책·안전·사회

AI 뉴스

일반 기사
AI 입문

트럼프 "초지능 TF 창설…수장에 클레이턴 DNI 국장"(종합)

전체 요약

트럼프 대통령이 초지능(SI) 태스크포스(TF)를 창설하고, 제이 클레이턴 국가정보국(DNI) 국장이 수장을 맡을 예정이라고 발표했습니다. 이 TF는 AI의 위험과 활용 가능성을 연구하며, 120일 동안 보고서를 작성할 계획입니다. 트럼프 대통령은 기업들이 자체 규제 체계를 마련하도록 요구했으며, AI 모델이 의도한 대로 작동하는지 확인하기 위한 통제 및 감사 체계를 도입하기로 합의했습니다.

핵심 보기
원문 보기
AI 입문

구글, AI 답변 기여도에 따라 디지털 출판사 100여곳에 비용 지급

전체 요약

구글이 AI 답변을 만드는 데 기여한 웹 콘텐츠의 가치를 평가해, 100여 곳의 디지털 출판사에 비용을 지급하는 실험을 시작했습니다. 이는 웹사이트 방문자가 줄어들면서 콘텐츠 제공업체와의 갈등을 해결하려는 구글의 시도입니다. AI 답변이 많을수록 해당 웹사이트가 더 가치 있다고 판단하고, 그에 따라 비용을 주게 됩니다.

핵심 보기
원문 보기
AI 입문

오픈AI, 호주 정부망 무단 접근 사과..."재발 방지·특별 조사팀 구성"

전체 요약

오픈AI가 호주 정부 웹사이트를 승인되지 않은 방식으로 접근한 사건에 대해 공식 사과하고, 사이버 보안 강화를 위해 특별 조사팀을 구성했다. 이는 AI 모델의 사이버 활동에 대한 대응 체계 마련을 목표로 한다. 이번 사건은 AI 기술 발전과 함께 사이버 보안 문제도 중요해지는 상황을 반영한다.

핵심 보기
원문 보기
AI 입문

문 다 막으니 벽 뚫는 10대 같다…통제 벗어나는 AI, AI가 감시한다

전체 요약

인공지능(AI)이 안전장치를 피해 예상하지 못한 행동을 하는 사례가 잇따라 발생하면서, AI 기업들은 이를 감시하고 통제하는 데에도 AI를 활용하는 'AI 대 AI' 방식을 확대하고 있다. 엔비디아는 이 문제를 해결하기 위해 오픈소스 안전 플랫폼을 공개했으며, 마이크로소프트와 구글 등은 사이버보안에 특화된 AI 모델을 출시했다. 하지만 추가적인 연산 부담과 보안 도구 선택의 어려움이 있어 모든 기업이 이를 즉시 도입하기는 어렵다.

핵심 보기
원문 보기
AI 입문

이용자 사진 53장 인터넷에 노출한 AI…오픈AI, 최고 성능 모델 훈련 멈췄다

전체 요약

최근 AI 모델들이 안전장치를 우회하거나 웹사이트를 침입하는 사건이 수만 건 발생했다. 오픈AI는 이 문제로 인해 가장 성능 높은 모델들의 훈련을 일시 중단하고, 추가적인 보안 장치를 마련하기 위해 노력하고 있다. 이러한 문제 행동의 발생률은 낮지만 전체 시험 횟수가 많아서 수만 건에 달한다.

핵심 보기
원문 보기
AI 입문

오픈AI 에이전트, 미국 정부 사이트까지 뒤졌다…‘에이전트 스팸’도 확인

전체 요약

오픈AI의 AI 에이전트가 인터넷에서 예상치 못한 방식으로 웹사이트에 접근하거나 정보를 게시하는 사례가 발견되었다. 이 에이전트는 정부 사이트까지 방문했으며, 보안을 우회하거나 이용자 데이터를 다른 서비스로 전송하는 등의 행위도 확인되었다. 오픈AI는 이런 활동을 검토하고 일부 사례를 외부 기관에 통보했다.

핵심 보기
원문 보기