사회
- “오픈AI, ‘AI 멋대로 해킹’ 1주일 동안 몰랐다”
- 네타냐후 “맘다니, 증오 선동…그래도 뉴욕 방문할 것”
- 미군, 이란전 사상 600명 넘어서…축소논란 속 조용히 업데이트
- 이란 최고지도자, 헤즈볼라에 공개서한…지원 재확인
- “쿠퍼 중부사령관, 트럼프에 ‘호르무즈 제한 공습’ 중단 권고” [악시오스]
- “ ‘카타르 선물’ 전용기, 트럼프 조기투입 압박에 부실 개조”
close
- 중동 긴장 완화에 국제유가 5% 가까이 급락
- 애플, 내년 6월 첫 스마트안경 공개…사생활 침해 우려에 지연
- K스타트업·K컬처 총망라 ‘꿈 위크’ 10월 뉴욕서 개막
- WSJ “SK하이닉스 ADR 프리미엄, AI 거래 과열 신호”
- “AI, 생물학 무기 제조법 자세하고 정확히 알려줘”
- 유튜브, AI 저품질 영상 돈줄 끊는다…의료·금융 아바타 제한
close
- 고우석, 이물질 부정 투구 혐의로 10경기 출전정지…이의 신청
- 메시 MLS 올스타전 불참 확정, 손흥민과 ‘합작골 시나리오’ 무산
- ‘韓 축구 역대급’ 이강인 아틀레티코행 영향력 ‘무려’ 이 정도라니... 네이마르·음바페→ ‘최고 레전드’ 샤라웃까지
- 아! 끝내 징계 받은 고우석, 10G 출전정지 처분 “이물질 사용 혐의→26일 경기부터 소급 적용”
- “손흥민 부진? 단 한 번도 의심한 적 없다”... 연신 감탄한 사령탑 쉴새 없이 ‘극찬 세례’
- “이강인 오피셜인데 이정도 노력해야” ATM 역대급 정성, 서울-마드리드 동시 발표 위해 며칠간 조율... 초대형 전광판도 띄었다
close
- 여름만 되면 오스트리아인들이 찾는 ‘물 탄 와인’
- 해녀가 배우 되는 식당… 제주에서 만난 특별한 한 끼
- 슬기로운시니어생활 62회
- 까다로운 우리밀 100%… 10년 인내로 구워낸 빵
- “지금 당장 냉동실에 넣어라” 모르고 그냥 두면 영양 손해
- “반숙 즐겨 먹는데 어쩌나”…7월엔 계란 하나 먹을 때도 조심해야
close
- 15세 졸업·43세 최고 졸업생… 올해 UC 졸업생 감동 스토리
- AI 모드 검색이 주는 위험
- “재정보조 극대화를 위한 실천적 기준”
- 추억의 회상
- 사라지는 ‘추가 에세이’, 무엇을 잃고 무엇을 얻나
- The Superhero of Modern Medicine: Transforming Everyday Life and Redefining Health
close
- [건강포커스] “식사 시간 하루 8~9시간으로 줄였더니…노년기 인지기능 개선”
- “팬데믹 이전 수준으로 돌아갔다” 깜짝… 소아감염병 발생률 재상승
- 입맛 없는데 몸무게는 늘고 피곤하다면…‘갑상선 위기’
- “나잇살 안 찌려고 무지방만 먹었는데”… 심장에‘독’될 수 있다는 경고 나왔다
- 혈압·혈당만의 문제 아니었다… 콩팥 망치는 의외의 습관
- 무릎이 아파 ‘걷기 운동’을 못 하겠다면
close
- ‘마법사 도서관’이 현실에… 빈의 ‘숨은 방’을 찾아서
- 죽은 아내와의 약속, 봉인된 과거, 사라진 딸
- 결혼이라는 타인, 낯선 이웃이 던진 질문 ‘웃다가 아프다’
- ‘센과 치히로’ 부모가 돼지 된 그 거리… 제주에도 있습니다
- 이슬람혁명 이후 억압에 저항… 여성들 여권신장 등 이야기 담아
- 미로를 헤매는 느낌 속, 희미한 빛의 초현실적 드라마
close
- 눈 깜짝할 사이에 끝… 요즘 대세 ‘마이크로 이사’
- 소득의 30% 렌트비 공식… 이젠 현실과 맞지 않는다
- 저평가 자산을 수익으로 바꾸는 법
- Zillow 가격은 왜 실제 집값과 다를까?
- 내 집 장만? 차 할부금부터 줄여라… 내 집 마련 최대 장벽
- ‘가족 돌봄·주거 문제’ 해결책 뒷마당에… ADU 규제 잇달아 완화
close
- 방탄소년단 정국, 19주 연속 차트인하더니..또 15억 스트리밍 돌파
- ‘15개월 아들상’ 박보미..둘째 출산 9개월만 셋째 임신 준비 중
- 베이비몬스터 ‘춤’ 라디오차트 35위..북미 존재감 어필
- ‘김부장’ 신드롬 숫자로 증명..누적 TV 시청자 2563만명 ‘국민드라마 입증’
- 세븐틴 버논 8월 20일, 도겸 9월 8일 나란히 군입대
- 이지아, 웃으며 인중 확대샷.. ‘성형설’ 나올 정도로 예뻐진 2달 만 피드
close
“GPT 해킹사건은 ‘라이트형제’ 순간…전세사기에 AI 악용될수도”
▶ ‘데이터 카우보이’ 쿠마르 “AI 안전 먼저 고려…韓문화 맞춘 안전체계 필요”
▶ MS, 카이스트 포함 세계 18개 대학과 ‘레드팀 연합’ 보안 협력
람 샹카르 시바 쿠마르 MS ‘데이터 카우보이’ [연합]
마이크로소프트(MS)에서 AI 보안 강화를 위한 모의 공격 등을 수행하는 '레드팀'을 이끄는 람 샹카르 시바 쿠마르 총괄은 최근 GPT 모델의 해킹 사건을 라이트 형제가 1903년 미국 노스캐롤라이나주 키티호크에서 처음으로 동력 비행에 성공한 순간에 비유했다.
당시 30초도 채 날지 못했던 걸음마 단계의 비행기가 이후 거듭된 기술 발전에 힘입어 결국 대중화한 것처럼, 보안 영역에서의 AI 위협 역시 후속 기술로 인해 훨씬 더 커질 수 있을 것이라는 경고성 예측이다.
쿠마르 총괄은 미국 샌프란시스코에서 27일 열린 MS 보안 행사에서 기자들과 만나 "우리가 목격한 것은 AI 시스템이 최첨단 위험과 결합했을 때 어떤 일을 벌일 수 있는지 보여주는 단면"이라며 "시스템을 출시하기 전에 AI 안전을 먼저 고려하는 것이 중요하다"고 강조했다.
특히 이와 같은 AI 보안 위협이 사이버 보안에만 국한되는 것이 아니라 일상의 보안 영역에도 적용되며, 이 경우 각 지역과 문화의 맥락에 맞춘 AI 안전 체계가 갖춰져야 위협을 막을 수 있다고 쿠마르 총괄은 역설했다.
그는 "사람들은 '탈옥'(jailbreak·AI의 안전장치를 우회하는 수법)을 생각할 때 항상 '사이버 탈옥'만 이야기한다"며 "사실 탈옥을 이용해 다른 피해를 줄 수 있다"고 말했다.
예를 들어 한국 특유의 임대차 제도인 전세를 이용해 사기를 벌이거나, 한국 등 일부 국가에서 강제되는 스마트폰 사진 촬영음을 끄는 등의 범행에 AI가 이용될 수 있다고 지적했다.
이 때문에 AI 모델을 개발할 때는 특정 국가나 특정 언어로만 생각해선 안 되고 모든 국가의 맥락에 맞춰야 한다는 것이다.
쿠마르 총괄은 이와 같은 다양한 맥락 이해를 위해 전 세계 대학에 자금을 지원해 이를 보완할 수 있도록 AI를 훈련하고 있다고 설명했다.
실제로 MS는 한국과학기술원(KAIST·카이스트)을 포함해 세계 18개 대학 연구소를 지원하는 '외부 레드팀 연합'(EXTRA)이라는 계획을 이날 발표했다.
쿠마르 총괄은 MS에서 '데이터 카우보이'라는 독특한 직책명을 보유하고 있다.
이와 같은 직책명의 유래와 의미를 묻자 "어떤 직책명이든 만들어 써도 된다고 하기에 영화 '토이스토리'에 나오는 카우보이 캐릭터 '우디'를 좋아해서 이렇게 만들었다"는 답이 돌아왔다.
그가 2013년 MS에 입사한 이래 적대적 기계학습(ML)과 AI 적대적 공격·방어 연구를 개척해온 것과 맞아떨어지는 직책인 셈이다.
<연합뉴스>
로컬뉴스
more
사람·사람들
more
한국일보 안내광고
- 렌트/리스/하숙
- 구인구직
- 중고차
- 전문업체
- 1
아마존, 위성 5천기 발사 승인 요청…스타링… - 2
법무부, 대법원에 트럼프 ‘우편투표 개편 행… - 3
“GPT 해킹사건은 ‘라이트형제’ 순간…전세… - 4
엔비디아, ‘챗GPT 개발 주역’ 스타트업에… - 5
‘아파트’·’큐피드’ 등 요즘 인기곡 공통점… - 6
“넓어진 공간과 첨단 기능… 패밀리카로 진화… - 7
공화, ‘미국기업 차별’ 외국 공무원 입국금… - 8
‘女동거 유포’ 반성한다더니.. ‘벌… 1 - 9“종합비타민 매일 섭취한 고령층, 일상생활 기능 더 잘 유지”
- 10안보리서 佛 발언 중 퇴장한 美…유엔 인권수장 놓고 또 충돌
- 11
엔비디아 ‘AI 순환거래’ 우려 재점화…주가… - 12
연준 금리동결 확률 62%… “깜짝 인상 가… - 13
설빙, 미국 매장 5개 확대·태국 1호점 개… - 14
‘SNS로 트럼프 협박 혐의’ 前FBI 국장… - 15
트럼프, 2개 전쟁 해법 논의…네타냐후·젤렌… - 16
위스콘신주 토네이도 강타 대규모 정전 - 17
무역대표 “301조 관세, 연준 금리 결정에… - 18
시애틀 거리축제서 총 쏜 15세 체포… “용… - 19
‘투표지 부족’ 송파구 선관위 직원 2명 직… - 20
신천지 “할 수 있으면 민주당도 가입… 1
- 21
국내선도 안심 못한다… ICE 체포 … 1 - 22
李대통령, 룰라와 ‘손하트’로 우정 … 1 - 23
韓 축구 ‘파격 변화’ 예고, 한때 24명이… - 24
메시 넘어섰다! 방탄소년단 지민 솔로 공연 … - 25
‘한국계 첫 미국 부지사’ 실비아 루크, 뇌… - 26
美재무부, 제재대상 통합·정리…北핵개발 조달… - 27
토론토 美영사관에 4개월만에 또 총격…인명피… - 28
[동포의 창] 재미한국학교협의회 학술대회·반… - 29
트럼프, ‘접전지’ 미시간 또 찾아 車관세 … - 30
‘부정 이물질 적발→10G 출장정지’ 억울한…
오피니언
옥세철 논설위원중국, 북한 핵 보유인정, 그 파장은…
조형숙 시인ㆍ수필가 미주문협 총무이사 괜찮아, 내 손을 잡아
조지 F. 윌 워싱턴포스트 칼럼니스트 [조지 F. 윌 칼럼] 레바논을 위한 트럼프의 결단
- 이상엽 KAIST 생명화학공학과 특훈교수
[백상논단] 인류가 지금 해결하고 싶은 문제는
- 김현수 서울경제 논설위원
[만화경] 토이스토리와 아틀라스
- 허경옥 수필가
[윌셔에서] 너무나 내 편인 당신
1/3
지사별 뉴스
NAKS 제44회 연례 학술대회 성황
재미한국학교협의회(NAKS) 주최‘제44회 연례 학술대회 및 정기총회’가 뉴저지 티넥 소재 메리엇 호텔에서 성대하게 열렸다. 23~25일 사흘…
국내선 탔다가 ICE 체포… 공항 단속 확대
장내 기생충‘사이클로스포라’감염증 비상
메릴랜드에서 장내 기생충인 ‘사이클로스포라(Cyclospora)’ 감염증 환자가 일주일 만에 60% 가까이 급증해 보건 당국에 비상이 걸렸다.…
AI 시대 한국학교의 새 방향 모색
“이제는 대한민국이 재외국민 걱정하고 돕는 나라 만들겠다”
샌프란시스코를 방문한 이재명 대통령은 25일 동포간담회를 통해 베이지역 한인들과 만나 재외선거 제도 개선, 복수국적, 한글학교및 차세대 지원등…
<이정훈 기자의 음악산책>말러의 ‘아다지에토’
 | ||
|
- 로그인
- 회원가입
Koreatimes.com 서비스는 Ktown1st.com과 통합계정입니다. 계정이 없으신 분은 회원가입을 해 주세요.
.png)
댓글 안에 당신의 성숙함도 담아 주세요.
'오늘의 한마디'는 기사에 대하여 자신의 생각을 말하고 남의 생각을 들으며 서로 다양한 의견을 나누는 공간입니다. 그러나 간혹 불건전한 내용을 올리시는 분들이 계셔서 건전한 인터넷문화 정착을 위해 아래와 같은 운영원칙을 적용합니다.
자체 모니터링을 통해 아래에 해당하는 내용이 포함된 댓글이 발견되면 예고없이 삭제 조치를 하겠습니다.
불건전한 댓글을 올리거나, 이름에 비속어 및 상대방의 불쾌감을 주는 단어를 사용, 유명인 또는 특정 일반인을 사칭하는 경우 이용에 대한 차단 제재를 받을 수 있습니다. 차단될 경우, 일주일간 댓글을 달수 없게 됩니다.
명예훼손, 개인정보 유출, 욕설 등 법률에 위반되는 댓글은 관계 법령에 의거 민형사상 처벌을 받을 수 있으니 이용에 주의를 부탁드립니다.
Close
x