• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
인공지능
배터리
양자컴퓨팅
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'요슈야 벤지오'통합검색 결과 입니다. (1건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

벤지오 교수 "AI 위험성 완화 연구 시급"

인공지능(AI)이 사회에 미치는 위험을 줄이기 위한 연구가 시급하다는 주장이 나왔다. 22일 CNBC 등 외신에 따르면 몬트리올대 요슈아 벤지오 교수는 최근 캐나다 몬트리올에서 열린 원 영 월드 서밋(One Young World Summit)에서 이 같은 주장을 제기했다. 이날 벤지오 교수는 "우리보다 똑똑한 기술을 갖게 될 미래를 상상하는 것은 매우 중요하다"며 "이것이 사회에 어떤 의미를 가질지 생각해야 한다"고 말했다. 이어 "기계가 곧 인간 수준의 인지 능력을 가질 수 있을 것"이라며 "특히 일반인공지능(AGI)이 인간 지능 뛰어넘는 것을 목표로 하기 때문"이라고 덧붙였다. 벤지오 교수는 AI 기술이 이미 경제, 정치, 군사 권력 집중을 심화하고 있다고 말했다. 보통 AI 시스템 개발·운영에는 막대한 비용이 든다. 이에 일부 국가와 소수 기업만 AI 개발 과정에 접근할 수 있다. 이 과정에서 경제적 권력이 발생할 수 있으며 결국 민주주의와 지정학적 안전성을 해칠 수 있다는 설명이다. 그는 "AI가 단순히 기술·경제에만 국한되지 않고 사회·정지 분야에도 영향을 준다"며 "경제 권력의 집중은 시장에 악영향을 주고, 정치적·군사적 권력 집중은 민주주의를 훼손할 수 있을 것"이라고 밝혔다. 그러면서 "이를 막기 위해 신중한 연구가 필요하다"고 덧붙였다. 벤지오 교수는 AI 위험성 완화 연구가 당장 효과를 나타내지는 못할 것이라고 내다봤다. 인간이 AI 위험성을 완벽히 인지하지 못한다는 이유에서다. 벤지오 교수는 "인간은 AI 시스템 위험을 완전히 제어하는 방법도 모른다"며 "특히 AI가 자율적 의사결정을 할 경우 인간 통제를 벗어날 가능성이 있다는 점도 무시할 수 없다"고 강조했다. 이어 "AI 발전 속도에 비해 규제, 윤리적 기준, 책임 소재 같은 사회적 장치가 충분치 않다"며 "5년 내 연구 효과를 볼 수 있는 건 불가하다"고 전망했다. 벤지오 교수는 각 정부가 문제 해결에 먼저 나서야 한다고 주장했다. 그는 "정부는 AI가 어디에 활용되고 있는지, 구체적으로 어떤 시스템인지 알아야 한다"며 "이런 정보를 언제든 볼 수 있도록 기업들에게 AI 시스템 등록 규제를 강제로라도 시행해야 한다"고 당부했다. 벤지오 교수는 현재 전 세계 기업들이 AGI 개발에 열을 올리는 것에 대해 우려도 표했다. 그는 "AGI를 가장 먼저 개발하는 국가·기업이 시장을 지배할 것이라는 믿음이 있다"며 "이것은 단순한 경쟁이 아닌 '위험한 경쟁'"이라고 주장했다. 이 외에도 그는 AI 개발사의 책임감 있는 행동, 일반 AI 사용자의 윤리적 기술 활용 등도 필요하다고 당부했다. 벤지오 교수는 "AI 장점과 위험을 모두 이해하는 사람들이 충분히 필요하다"며 "기술과 경제, 정치 모두를 아우르는 노력이 절실하다"고 말했다.

2024.11.22 10:13김미정

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

또 유찰된 국가 AI컴퓨팅센터…업계 "불확실·비현실적 사업 구조 개선해야"

여름 무더위 시작…유통가는 ‘수박 전쟁’ 돌입

"확실히 GD는 GD구나"...지드래곤 하이볼 흥행에 기부 선행까지

케이뱅크, KT와 손잡고 ‘AI 금융 혁신’ 속도

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현