사회
- 미 FBI 국장 “연방요원 투표소 배치할 수도”…법 위반 논란
- 전 주미중국대사 “美에 환상 없어…대만문제, 통일로 근본 해결”
- “중간선거 앞 확실한 민주 우위…트럼프 경제로 신뢰 잃어”
- 저커버그 “AI 안전은 자율책임”…아모데이와 대비
- 인텔 CEO “5∼7배 가격 급등한 메모리, 내년에 더 부족해질 것”
- “인텔이 매각한 알테라, IPO 비공개 신청서 제출”
close
- 올트먼 “AI 무단 해킹사건이 경종 울려…안전이 기술 앞서야”
- “주거비 인상 원흉”…에어비앤비, 임대주택 건설비 지원한다
- 상원, 가상화폐 ‘클래리티법’ 부결…트럼프 이해충돌이 ‘발목’
- 美국채 금리·유가 상승 지속…뉴욕증시 이틀째 하락
- 아모데이·젠슨황, AI안전 충돌… “표준 세워야” “규제 불필요”
- 사우디 공급 차질 우려 심화…국제유가 5월 19일 이후 최고
close
- 메시, 아르헨티나 국가대표 고별전 확정…10월 소집명단 포함
- 스포츠 중계 독점 논란에…OTT 공룡들 공동 로비단체 결성
- [아시안게임] ‘조별리그 3연승’ 남자농구, 16일 요르단과 8강 격돌
- 대타 출전 이정후, 2타수 1안타…김하성 2타수 무안타 교체
- [아시안게임] 월드컵도 누빈 엄지성, 첫 경기부터 ‘에이스 존재감’
- 아시안게임에 인뤄닝 등 LPGA 스타들 총출동
close
- 슬기로운 비지니스 인터뷰
- 슬기로운 비지니스 인터뷰
- 슬기로운시니어생활 64회
- 슬기로운시니어생활 63회
- 여름만 되면 오스트리아인들이 찾는 ‘물 탄 와인’
- 해녀가 배우 되는 식당… 제주에서 만난 특별한 한 끼
close
- 치솟는 대학 학비에 학자금 대출 필요성 높아져
- ED 열풍, 합격률의 숫자에 속지 마라
- “대학 선택, 재정보조가 먼저다”
- Learning, Literacy, Leadership
- “악보에 보이지 않는 음악, 어떻게 가르칠까”
- K-12 공립이냐 사립이냐… 학비보다 중요한 것은?
close
- 거꾸로 식사법, 얼마나 효과 있나?
- 전자담배 덜 해롭다고? 니코틴 노출 많으면 황반변성 위험
- 귀를 지키면 뇌도 지킨다… “보청기 미루지 마세요”
- 1형당뇨 환자 형제자매도 고위험군…일반소아보다 11.5배↑
- “맥주 한 잔은 그냥 음료수 아냐?” 이런 생각 다 틀려… 암 사망률 ‘껑충’
- 콜레스테롤 걱정돼 끊은 ‘삶은 달걀’… 심장 전문의는 즐겨 먹었다
close
- 신분이 다른 두 남녀의 사랑을 그린 코미디
- ‘사랑은 운명이라는 것을 보여주는 로맨틱 기록영화’
- [강원 강릉시 인월사] 불탄 절이 ‘핫플’로 되살아났다… 세계인 눈길 끈 ‘강릉시’의 사찰
- 서로 다른 희망이 만들어낸 비극, 다시 시작된 질문
- ‘역사 스릴러’부터 ‘거장 신작’까지… 토론토 물들이는 한국영화
- 성장 배경이 다른 두 형제의 사랑과 화해그린 멜로드라마
close
- 다시 뜨는 변동 금리 모기지… 장점 있지만 위험도 다분
- 단지 관리해줘 좋긴 한데… HOA 주택 구입 전 고려할 사항
- 모기지 금리 6% 후반인데, 집값은 안 떨어질까?
- 부모가 자녀에게, 가족간 집을 넘겨줄 수 있나요?
- 수리비 ‘시한폭탄’ 배관 문제… 구입 전 꼼꼼히 살펴야
- 첫 오퍼가 제일 좋은 오퍼?… 가격 외에 따져볼 것 많아
close
- ‘타짜 4’ 최국희 감독 “철저한 복수극… ‘타짜 1’ 헌사도 담았죠”
- 머라이어 캐리 대기록과 나란히…美 컨트리송 가수에 눈길
- ‘가왕’ 조용필, 11월 서울 KSPO돔서 10개월 만 단독 콘서트
- 하루키 소설로 만든 애니 ‘장님 버드나무와 잠자는 여자’ 개봉
- 부산영상위원회 제작 지원 영화 2편 부산국제영화제 초청
- 16년 만에 돌아온 오아시스, 내년에도 월드투어 한다
close
오픈AI ‘통제 벗어난 AI’ 정기 공개…이상행동 감시 강화
▶ 최근 6개월 사례 6건 공개…허깅페이스 해킹 두달 전부터 이상징후
오픈AI 로고 [로이터]
16일 로이터통신에 따르면 오픈AI는 AI 모델이 개발자의 의도와 다른 행동을 하거나, 예상에서 벗어나는 사례를 추적·조사하고 공개하는 새로운 체계를 마련했다고 밝혔다.
향후 AI 모델이 인간의 의도와 다른 행동을 했을 가능성이 있는 사안이 발견되면 오픈AI의 전담반이 이를 조사하고, 경중에 따라 외부 공개 여부를 결정하겠다는 것이다.
이와 함께 오픈AI는 지난 6개월간 확인된 AI 모델의 이상 행동 사례 6건도 공개했다.
이 중에는 AI 모델이 작업 내용을 요약하면서 지시사항을 꾸며내거나, 자신의 실수를 은폐한 사례가 포함됐다.
자신이 인용할 파일을 인터넷에 직접 올리거나, AI 에이전트끼리 허가 없이 파일을 공유한 경우도 확인됐다.
다만 오픈AI는 이번에 확인된 사례만으로는 자사의 AI 모델이 개발자의 의도와 다르게 행동하는 경우가 얼마나 자주 발생하는지를 판단해서는 안 된다고 강조했다.
이번 조치는 오픈AI의 AI 에이전트가 테스트 과정에서 내부 통제를 벗어나 외부 시스템에 침투하는 사건이 잇따라 확인되면서 AI 안전에 대한 우려가 커진 가운데 나왔다.
특히 지난 7월 오픈AI의 AI 에이전트들이 오픈소스 플랫폼 허깅페이스의 시스템을 침해하고, 행동을 숨기려고 한 사건이 알려지면서 안전 관리 체계가 도마 위에 올랐다.
이와 관련, 독일의 AI 연구자 요나스 비더만묄러는 허깅페이스 사건이 발생하기 약 두 달 전부터 오픈AI의 AI 에이전트들이 이 사이트의 취약점을 탐색한 정황이 있었다는 사실을 공개했다.
오픈AI의 AI 에이전트들이 지난 5월 13일 허깅페이스 이용자 계정 2개를 탈취한 뒤 비정상적인 형식의 파일을 허깅페이스 서버로 전송했다는 것이다.
이 같은 행동은 허깅페이스의 네트워크 구조를 파악하거나 침투 경로를 찾기 위해 취약점을 시험한 것으로 보인다는 것이 연구자들의 분석이다.
다만 당시 AI 에이전트들의 이상 행동이 실제 허깅페이스 시스템 침해로 이어졌거나 7월 사건과 직접 연결됐다는 증거는 확인되지 않았다.
오픈AI는 5월 13일 발생한 사건의 일부를 지난달 사고 보고서에서 공개했다.
<연합뉴스>
로컬뉴스
more
사람·사람들
more
![[인터뷰] “50대에 만난 산에서 제2의 인생… 그 행복 나누고 싶어”](http://mimg.koreatimes.com/200/120/manage/la/images/people/1789105496_people_image_0.jpg "[인터뷰] “50대에 만난 산에서 제2의 인생… 그 행복 나누고 싶어”")
한국일보 안내광고
- 렌트/리스/하숙
- 구인구직
- 중고차
- 전문업체
- 방1+화1+주차1대
- 1Br+1Ba+1Pk $1,850
- 리모델링한 2+2 $2,200
- 2Br+2Ba+2Pk/$1,995
- 싸이프레스 단층식 타운홈
- 부에나팍 2층식 타운홈
- LA 하우스 $3,500
- 뉴스타 리스문의
- (한타) 상가 리스
- 1[건강포커스] “제2형 당뇨병·유전 요인 있으면 50세 전 간경변증 위험 높아”
- 2
오픈AI ‘통제 벗어난 AI’ 정기 공개…이… - 3AI로 신약개발 앞당긴다…위고비 제약사, 앤트로픽과 협업
- 4EU, 27개 회원국 전역서 13세 미만 소셜미디어 금지 추진
- 5
하원, 데이터센터로 인한 전기료 인상 막는 … - 6
트럼프, ‘마약통제 불이행국’ 명단서 베네수… - 7
미국 대형은행 일제히 우대금리 7%로 인상 - 8
한은 “향후 미 연준 통화정책 기조 긴축적일… - 9
“미 은행들, 구글 TPU 구매용 30조원 … - 10
LA 다운타운 고급콘도 수백채 ‘텅텅’
- 11
SK하이닉스·인텔 생산 협상 보도에 나란히 … - 12
트럼프, ‘캐나다 준회원국’ 추진 EU에 “… - 13
사우디, 후티에 첫 탄도미사일 공격 정황… … - 14
“LA 강진시 한인타운 흔들림 증폭 가능성” - 15
“김지용, 김학의·정진웅 기소반대…수사·기소… - 16
이강인, 2호골 폭발하고 첫 풀타임…아틀레티… - 17
시진핑 방미 앞 ‘수감 홍콩 언론인’ 지미 … - 18
연준 금리인상에 달러·국채금리 동반 강세 - 19
뉴욕주 중산층도 전기·가스료 할인 받는다 - 20
트럼프 “美금리 1% 이하여야…연준, 정치적…
- 21
투자금 250만 달러 유용한 50대 한인 ‘… - 22
배우 백일섭 사진 무단사용 주방용품 업체…법… - 23
‘초기 유방암’ 투병하던 백악관 비서실장 “… - 24멈추지 않는 눈물
- 25
유가 100달러 물가충격…워시 연준, 트럼프… - 26
SK하이닉스 “연산하는 메모리로 AI 데이터… - 27
미 FBI 국장 “연방요원 투표소 배치할 수… - 28전 주미중국대사 “美에 환상 없어…대만문제, 통일로 근본 해결”
- 29
이스라엘·모로코, 외교관계 ‘대사급’ 격상…… - 30
중간선거 본선 대진표 완성…다급한 트럼프 경…
![[아시안게임]](http://image.koreatimes.com//manage/la/images/sports/1789580145_sports_image_0.jpg)
오피니언
정숙희 논설위원미국정치 너무 늙었다 2 - 베이비부머 의원들
파리드 자카리아 푸틴과 ‘윈윈’할 수 있다는 위험한 환상
서정명 서울경제 논설위원[만화경] 고대 A I‘골렘’의 반란
민경훈 논설위원나쁜 일이 좋은 사람들에게 일어날 때
문태기 OC지국장 프레드 정 시장 ‘리콜’ 타당한가
황의경 사회부 차장대우 다시 일어선 10년, 그리고 새로운 10년
옥세철 논설위원반(反)서방세력의 트로이 목마
조옥규 수필가 턱
- 서정명 서울경제 논설위원
[만화경] 이혼, 시대의 자화상
1/3
지사별 뉴스
뉴욕주 중산층도 전기·가스료 할인 받는다
뉴욕시를 비롯한 뉴욕주내 중산층 가구들도 매달 전기료와 가스요금 할인 혜택을 받을 수 있게 됐다.캐시 호쿨 뉴욕주지사는 15일 기존 저소득층에…
트럼프 ‘우편투표 제한’ 결국 무산
투자금 250만 달러 유용한 50대 한인 ‘유죄 평결’
버지니아주 페어팩스 카운티 섄틸리에 거주하는 50대 한인 남성이 지역사회 지인들로부터 투자 명목으로 250만 달러 이상을 가로챈 뒤 파산법원에…
MD 코리안 페스티벌, 한인 1세대 소외되나
트럼프 이름 뗐다고… 케네디 센터 전격 ‘폐관’ 논란
미국 수도 워싱턴 DC의 대표적 문화시설인 ‘존 F. 케네디 공연예술센터’(케네디센터)에 도널드 트럼프 대통령의 이름을 넣으려는 센터 이사회의…
‘제81주년 광복절’ 기념 문화·스포츠 행사
 | ||
|
- 로그인
- 회원가입
Koreatimes.com 서비스는 Ktown1st.com과 통합계정입니다. 계정이 없으신 분은 회원가입을 해 주세요.
.png)
댓글 안에 당신의 성숙함도 담아 주세요.
'오늘의 한마디'는 기사에 대하여 자신의 생각을 말하고 남의 생각을 들으며 서로 다양한 의견을 나누는 공간입니다. 그러나 간혹 불건전한 내용을 올리시는 분들이 계셔서 건전한 인터넷문화 정착을 위해 아래와 같은 운영원칙을 적용합니다.
자체 모니터링을 통해 아래에 해당하는 내용이 포함된 댓글이 발견되면 예고없이 삭제 조치를 하겠습니다.
불건전한 댓글을 올리거나, 이름에 비속어 및 상대방의 불쾌감을 주는 단어를 사용, 유명인 또는 특정 일반인을 사칭하는 경우 이용에 대한 차단 제재를 받을 수 있습니다. 차단될 경우, 일주일간 댓글을 달수 없게 됩니다.
명예훼손, 개인정보 유출, 욕설 등 법률에 위반되는 댓글은 관계 법령에 의거 민형사상 처벌을 받을 수 있으니 이용에 주의를 부탁드립니다.
Close
x