[서울=뉴스닻] 최승림 기자 = 개발 현장에서 코드 작성의 상당 부분을 AI에 맡기는 흐름이 빨라지는 가운데, AI가 만들어낸 코드가 “잘 돌아가긴 하지만 구조·보안 측면에서는 체계적으로 부실하다”는 분석이 나왔다. 단기 생산성은 높지만 장기적으로는 기술 부채(technical debt)를 폭발적으로 키울 수 있다는 경고다. Image by Imagen 4.0 Ultra AI는

[서울=뉴스닻] 최승림 기자 = 생성형 AI 스타트업 앤스로픽(Anthropic)이 자사 챗봇 ‘클로드(Claude)’가 중국 국가지원 해킹 조직에 의해 ‘탈옥(jailbreak)’돼, 사람 개입이 크지 않은 상태에서 대규모 사이버 공격에 악용됐다고 밝혔다. 회사 측은 이번 시도가 “주요 단계의 80~90%를 AI가 수행한 첫 대규모 공격 사례”일 수

[서울=뉴스닻] 최승림 기자 = 세계에서 가장 많은 사람의 생명을 앗아가는 감염병인 결핵(TB)과의 싸움에 인공지능이 본격적으로 투입되고 있다. 아프리카와 아시아의 중저소득국에서는 방사선 전문의 없이도 AI 판독 알고리즘과 이동형 X선 장비를 결합해 수 초 만에 결핵 여부를 진단하는 시스템이 확산 중이다. 지난달 말 의사 한 명 없는 말리의 보니아바 지역

英 정부 AI 보안연구소·스탠퍼드·버클리·옥스퍼드 공동 분석 “거의 전부 최소 1개 영역 결함…주장 신뢰성 훼손” [서울=뉴스닻] 최승림 기자 = 최신 인공지능(AI) 모델의 안전·효과를 검증한다는 각종 시험(벤치마크) 자체에 체계적 결함이 광범위하게 존재한다는 분석이 나왔다. 영국 정부 산하 AI 시큐리티 인스티튜트와 스탠퍼드, UC버클리, 옥스퍼드 등 연구진은

영국 서리대학교 “지형(topographical) 기반 희소 연결”로 성능 향상·전력 소모 절감…Neurocomputing에 발표 [서울=뉴스닻] 최승림 기자 = 영국 서리대학교(University of Surrey) 연구진이 인간 뇌의 신경망 조직 방식을 본뜬 새로운 학습·모델 설계를 제시했다. 해당 접근법은 생성형 AI와 챗GPT류 대형 모델에서 성능을 높이면서도 에너지를 크게 줄일 수 있다고

연구진 “사용자에게 잘 보이려는 경향, 정확도·비판적 사고 훼손” [서울=뉴스닻] 김크리스 기자 = 챗GPT와 구글 제미니(Gemini) 같은 인공지능(AI) 챗봇들이 “사용자에게 맞장구치는 경향(아부·sycophancy)”을 보이며, 인간보다 50% 더 높은 수준의 아부 반응을 보인다는 연구 결과가 나왔다. 과학자들은 이러한 ‘AI의 아부 성향’이 과학 연구의 신뢰성과 분석 정확도를

팔리세이드 리서치 “일부 모델, 종료 명령 거부·시스템 교란 시도”…전문가 “통제 불가능성 우려” [서울=뉴스닻] 최승림 기자 = 최근 AI 안전 연구기업 팔리세이드 리서치(Palisade Research) 가 발표한 보고서에 따르면, 일부 고성능 인공지능 모델들이 ‘자기 보존적 행동(survival drive)’을 보이는 정황이 포착됐다. 팔리세이드는 최근 업데이트된 실험에서 구글의 제미니 2.