“딥 러닝은 믿을 수 없다”

-
-
-
“딥 러닝은 믿을 수 없다”

지난 20년 동안 딥 러닝은 상용 응용 프로그램을 통해 인공지능 연구가 활발히 진행되고 있다. 하지만 딥 러닝의 눈부신 발전 이면에는 기술의 한계도 지적되고 있다.

두뇌 모델링의 선구자인 스티븐 그로스버그(Stephen Grossberg)는 새 책 ‘의식적인 마음, 공명하는 두뇌: 어떻게 각 두뇌가 마음을 만드는가(Conscious Mind, Resonant Brain: How Each Brain Makes a Mind)’을 통해 “딥 러닝은 믿을 수 없다”고 주장한다.

일반적인 딥 러닝 프로그램은 여러 작업에서 뛰어난 성능을 제공한다. 하지만 둘 이상의 작업을 잘 수행할 수 없기 때문에 엄격하게 제한된 환경에서 특정 작업을 처리하는 데 적합하다. 게다가, 딥 러닝은 매우 복잡하며 완벽하게 작동하더라도 왜 완벽하게 작동하는지 설명할 수 없다.

또, 학습을 거듭해 가면, 지금까지 학습한 일부가 갑자기 붕괴해 버리는 일도 발생한다. 있다고 합니다. 따라서 생명을 다루는 의료분야 응용 프로그램에서 딥 러닝을 사용하는 것은 위험할 수 있다고 말했다.

그로스버그는 “사람이 새로운 상황이나 감각에 즉각 대응해 행동할 수 있는 것은, 뇌 내의 특수한 회로 덕분이다”며, “사람은 두뇌는 예상치 못한 사건으로 가득 찬 변화하는 세상에서 사물과 사건을 인식하고 예측하는 법을 배운다”고 말했다. 

따라서 “현재 AI의 문제점 중 하나는 뇌의 처리 결과를 흉내 내는 것이 아니라 그 결과를 낳는 메커니즘을 찾는 것”이라고 지적하며, “완전히 다른 접근 방식이 필요하다”고 주장한다. 

보스턴대학의 인지 및 신경시스템, 수학 및 통계, 심리학 및 뇌 과학, 생의학 교수인 그로스버그는 생물학적 지능과 인공지능에 대한 대체 모델로 ART(Adaptive Resonance Theory, 적응 공명 이론)를 제창했다. 즉 뇌가 어떻게 새로운 상황이나 감각에 적응해 학습하는가를 모델화한 것이다.

ART는 지도 및 비지도 학습 방법을 사용해 패턴인식 및 예측과 같은 문제를 해결한다. 실제로 ART 이론을 사용하는 알고리즘은 소나 및 레이더 신호 분류, 수면 무호흡증 감지, 영화 추천, 컴퓨터 비전 기반 운전자 지원 소프트웨어와 같은 대규모 프로그램 등에 응용되고 있다.

그는 “ART는 설명이 가능하고 치명적인 망각을 겪지 않기 때문에 자신 있게 사용할 수 있다”며, “ART는 안정성-가소성 딜레마라고 부르는 문제를 해결한다”고 말했다. 즉, 어떻게 뇌 또는 기타 학습 시스템이 치명적인 망각(안정성)을 겪지 않고 자율적으로 빠르게 학습할 수 있는지(가소성)다.

1976년에 ART를 공식화한 그로스버그는 뇌가 지능화되는 방식을 모델링한 선구자다. 미국 전기·정보공학 분야의 학술연구 단체인 IEEE 펠로우인 그는 보스턴대학 적응시스템센터(Center for Adaptive Systems) 설립자이며 교육, 과학 및 기술 학습을 위한 엑셀런스센터(Center of Excellence) 창립 이사다. 두 센터 모두 뇌가 어떻게 적응하고 학습하는지 이해하고 이를 기반으로 기술 응용 프로그램을 개발하는 곳이다.

그로스버그는 뇌 인지 및 행동 이해에 대한 공헌과 기술에 의한 에뮬레이션으로 딥 러닝의 아버지로 여겨지는 코넬(Cornell) 교수의 이름을 딴 ‘2017 IEEE 프랭크 로젠블랫 상(2017 IEEE Frank Rosenblatt Award)’를 수상했다.

거의 800페이지에 달하는 그의 책에서 “우리가 뇌라고 부르는 작은 고깃덩어리가 어떻게 생각, 감정, 희망, 감각 및 계획을 일으키는지 설명하려고 시도한다. 특히 이를 생물학적 신경 모델로 설명한다. 또한 이 책은 또한 알츠하이머병, 자폐증, 기억상실증, 외상 후 스트레스 장애와 같은 질환의 근본 원인도 다루고 있다.

AI와 스마트로봇을 포함한 컴퓨터과학, 공학, 기술 분야의 스마트 시스템을 설계하는 데도 뇌가 어떻게 마음을 낳는지 이해하는 것이 중요하다고 쓰고 있다. 또 이 책은 많은 기업이 생물학적으로 영감을 받아 여러 종류의 알고리즘을 적용한 사례도 요약하고 있다.

그로스버그는 “기술과 AI의 미래는 이러한 자율제어시스템에 점점 의존하게 될 것”이라고 결론지었다. 

김들풀 기자 itnews

출처: http://itnews.live/?p=36054

Related List

DARPA 보고서, “블록체인, 생각만큼 탈중앙화돼 있지 않다”

비트코인, 이더리움을 포함한 블록체인은 생각만큼 탈중앙화 되어 있지 않다는 보고서가 나왔다.  미 국방고등연구계획국(DARPA)이 보안업체 트레일오브비츠(Trail of Bits)에 의뢰해 작성한 총 26쪽에 달하는 보고서 ‘블록체인은 정말 탈중앙화 되어있을까?’(Are Blockchains Decentralized?)에 따르면 탈중앙화 합의 도출에 있어서 블록체인 기술이 지닌 한계점들을 지적하며 “비트코인, 이더리움 등 현존하는 블록체인 네트워크들은 탈중앙화되지 않았다”고 결론을 내렸다. 보고서는 소수 개발자에 의한 코드 수정 가능성을 지적했다. 비트코인에는 현재 4명의 메인 개발자들이 코드를 수정할 수 있는 권한이 있고 심지어 과거 트랜잭션까지 조작할 수 있다고 지적했다. 4대 채굴장이 공격에 취약하다는 우려도 나왔다. 비트코인 블록체인 운영에 중대한 영향을 미치는 기관의 수가 4개로 너무 적다는 것이다. 시빌공격(Sybil attack)에 취약하다는 지적도 나왔다. 블록체인이 충분히 탈중앙화되려면 시빌공격이…

미래 컴퓨터 하드드라이브, “스마트 분자로 구성”

미래 컴퓨터 하드 드라이브가 스마트 분자로 구현할 수 있는 획기적인 연구 결과가 나왔다. 영국 랭커스터대학(Lancaster University)을 비롯한 국제 연구팀이 트랜지스터처럼 작동할 수 있고 고전 컴퓨팅에 사용되는 1과 0과 같은 이진수 정보를 저장할 수 있는 단일 분자 ‘스위치’를 발견했다. 분자 크기는 약 5제곱 나노미터(㎚)다. 1나노미터는 10억분의 1m로 머리카락 굵기 10만분의 1m 크기다. 이는 원자 3~4개가 모인 크기와 같다. 논문에 따르면 분자 제곱 인치 당 약 250테라비트(Tbit) 정보 밀도를 제공할 수 있다. 이는 현재 하드 드라이브 스토리지 밀도 약 100배다. 연구 결과(논문명: Ambient Bistable Single Dipole Switching in a Molecular Monolayer)는 화학 분야 최고 학술지 ‘앙게반테 케미(Angewandte Chemie International Edition)’ 최근호에 실렸다. ▲주사터널현미경으로…

[이슈] 팀 버너스리, “웹은 아직도 여성에게 불평등”

▲ 나이지리아 기술센터에서 젊은 여성과 팀 버너스리와 로즈마리 버너스리 부부. [출처: 웹 파운데이션 CC-BY-4.0] URL, HTTP, HTML을 최초 설계한 월드와이드웹(WWW, World Wide Web)의 아버지 팀 버너스리(Tim Berners-Lee)가 웹이 여성과 소녀들에게 잘 작동하고 있는 상황이 아니라고 지적했다. 팀 버너스리는 14일(현지 시각) 월드와이드웹 재단(World Wide Web Foundation) 블로그를 통해 “세계가 남녀평등에서 상당한 진전을 이뤘다. 하지만 LGBTQ(Lesbian, Gay,Bisexual, Transgender, Queer)  + 커뮤니티와 사회적으로 소외된 여성들, 특히 유색 인종의 여성과 소녀가 온라인으로 피해를 입고 있다”고 말했다.  그러면서 “CEO부터 엔지니어, 학자, 공무원까지 기술에 종사하는 사람들이 주의를 기울일 필요가 있다”고 강조했다. 팀 버너스리가 꼽는 문제점은 다음 3가지다. 먼저 세계 여성 대부분은 아직 인터넷에 연결할 수 없는 환경이다.…

스마트폰 데이터로 빅5 성격 예측…”성격은 행동에 영향”

출처: PxHere, CC0 Public Domain 일반적으로 사람의 성격 특성을 알기 위해서는 심리검사 테스트를 한다. 그러나 앞으로는 스마트폰 사용 데이터만으로도 성격을 알 수 있는 알고리즘이 개발됐다. 스탠퍼드대학 연구팀이 스마트폰 사용자가 클릭, 좋아요, 게시물 및 웹 방문 등을 알고리즘으로 분석해 그 사람의 성격을 알 수 있는 방법을 개발했다.  연구팀이 스마트폰 사용 패턴에서 성격을 예측하기 위해 빅5(Big Five) 모델 중 개방성, 성실성, 외향성 3가지를 사용했다. 연구팀은 처음 3가지 특성을 조사했지만, 현재 친화성과 신경성 또한 연구되고 있다. 연구 결과(논문명: Predicting personality from patterns of behavior collected with smartphones)는 미국 국립과학 아카데미(National Academy of Science) 회보 (PNAS) 최근호에 실렸다. 5가지 성격특성 요소(Big Five personality traits)는 경험에…

컴퓨터 OS 계보 공개…“830개 이상”

컴퓨터 운영체제(OS) 중 대표적인 것으로는 마이크로소프트의 Windows와 애플의 macOS, 각종 Linux 배포판이 있다. 1950년대에 OS 개념이 탄생한 이후, 다양한 OS가 개발되고 있다. 이러한 OS의 장대한 역사를 한눈에 알아볼 수 있는 계보를 역사, 언어, 종교, 소프트웨어 등 정보 그래픽을 만드는 알폰스 아일렌버그(Alphonse Eylenburg)가 공개했다. OS 계보에는 830개 이상이 게재됐다. 대부분 들어본 적이 없을 정도로 오래된 OS나 OS로 분류할 수 있는지 명확하지 않은 것까지 포함되어 있다.  출처: eylenburg.github 계보를 보면 OS가 처음 탄생한 해는 1951년이다. 그중 하나는 캠브리지대학에서 개발한 EDSAC는 컴퓨터를 기반으로 개발된 ‘LEO I OS’로 1951년 세계 처음으로 비즈니스 응용 프로그램을 실행했다. 같은 해 레밍턴 랜드가 개발한 UNIVAC I에 탑재된 프로그램 ‘Share/43’…

애플 VR/AR 헤드셋용 OS ‘rOS’ 개발 중

디인포메이션이 수집된 정보로 만든 애플 VR/AR 헤드셋 이미지. [출처: 디인포메이션] 애플이 독자 개발하고 있다고 전해진 VR/AR 헤드셋용 OS ‘rOS(realityOS)’가 앱스토어(AppStore) 업로드 로그에 그 이름이 발견됐다. 애플 오픈 소스 소프트웨어 배포판의 시스템 계정인 Apple OSS Distributions가 깃허브(GitHub)에 ‘MachOFile.cpp’라는 저장소를 만들었다. 이 저장소는 곧바로 갱신되어 깃허브에서 삭제되었지만, 그 전에 이미 누군가에 의해 깃허브 브랜치(Branch)가 작성되고 있었던 것. 이 ‘MachOFile.cpp’는 앱스토어에 업로드 로그를 포함하고 있으며, 그 중에는 ‘realityOS’라는 단어 여러 개가 존재한다. 이는 맥OS 및 iOS와는 다른 OS이며, 개발자용 시뮬레이터도 부속되어 있는 것을 9일(현지시각) 개발자 스티브 트러턴 스미스가 발견했다. 애플은 2016년부터 VR 관련 기술개발을 진행 중으로 알려졌으며, 2019년에 VR/AR 헤드셋 개발에 착수했으며, M1…

페이스북, 생각을 문장으로 바로 출력

출처: UCSF 유튜브 “Neuroprosthesis” Restores Words to Man with Paralysis 페이스북이 캘리포니아대(UCSF) 연구팀과 공동으로 뇌졸중으로 말을 할 수 없는 사람의 뇌파 활동을 잡아 문장으로 바로 출력하는 기술(일명 텔레파시 기술)을 개발했다. 페이스북 산하 연구 조직인 페이스북 리얼리티 랩(FRL, Facebook Reality Labs)과 미국 샌프란시스코 캘리포니아대(UCSF) 창랩(Chang Lab)은 생각만으로도 의사를 전달할 수 있는 ‘두뇌인터페이스(BCI, Brain Computer Interface)’을 개발했다. 연구 결과(논문명: Neuroprosthesis for Decoding Speech in a Paralyzed Person with Anarthria)는 국제학술지 ‘뉴잉글랜드 저널 오브 메디신'(NEJM)에 7월 14일(현지시각) 실렸다.  처음 목표는 뇌에 칩을 이식하지 않는 비침습 방법 개발이지만, 이번 연구는 환자의 발성을 제어하는 부분에 칩을 이식했다.   이식된 칩은 뇌 신호를 컴퓨터로 전송한다. 그러면 컴퓨터는…

AI 알고리즘, 90% 정확도로 미래 범죄 1주일 전에 예측

영화 마이너리티 리포트처럼 1주일 뒤 범죄 발생 확률을 90% 정확도로 예측하는 인공지능 모델이 등장했다. 영화 마이너리티 리포트는 흉악범죄를 예측하는 시스템으로 예비 범죄자를 미리 체포되는 미래가 그려져 있다.  미국 시카고대학 연구팀은 폭력범죄과 재산범죄 등 공식적으로 입수 가능한 데이터를 통해 시간과 장소 패턴을 학습해 1주일 후 범죄 발생 확률을 90%의 정확도로 예측하는 모델을 개발했다. 연구 결과(논문명: Event-level prediction of urban crime reveals a signature of enforcement bias in US cities)는 과학저널 네이처 인간행동(Nature Human Behavior) 6월 30일 실렸다. 출처: Courtesy 20th Century Fox/Dreamworks 시카고대학 데이터 과학자와 사회 과학자들은 살인, 상해, 폭행 등 폭력범과 강도, 절도 등 재산범의 공적 기록을 토대로 각각의 범죄로 신고…

바이두, 10퀀텀 비트 양자컴퓨터 ‘치엔시’ 공개

중국 최대 검색 포털이자 AI 기업 바이두(Baidu)가 10퀀텀 비트 프로세서를 탑재한 양자컴퓨터 Qian Shi(치엔시, 乾始)를 발표했다.  8월 25일 베이징에서 개최된 ‘양자컴퓨팅개발자회의’(Quantum Create 2022)에서 양자컴퓨터 Qian Shi 및 양자컴퓨터를 클라우드와 하드웨어에서 활용할 수 있는 통합 솔루션 Liang Xi(량시)을 발표했다. 베이징에 위치한 바이두 양자컴퓨팅 하드웨어 연구소의 10퀀텀 비트 프로세서 양자컴퓨터 Qian Shi. [image source: Baidu Research] 바이두에 따르면 “치엔시는 10퀀텀 비트 프로세서를 탑재. 새로운 리튬 배터리의 새로운 재료 설계나 단백질의 접힘 시뮬레이션에 사용되는 양자 알고리즘 등 수많은 실용적인 양자 애플리케이션도 탑재돼 있다”고 설명했다. 또한 바이두는 36양자비트 양자칩 설계를 완료했다고 밝혔다. 양자컴퓨팅 통합 솔루션 량시는 중국 과학원에서 개발한 이온 트랩핑 양자 장치를 포함해 치안시를…

웃음 서명, 새로운 생체인식 개인식별

Credit: CC0 Public Domain [PIXABAY, by Galina Bogdanovskaya] 생체인식 개인식별은 지문, 홍채 또는 망막 스캔, 음성인식 시스템 등 다양하다. 또한 귀 모양, 얼굴, 손등 혈관 패턴, 보행 패턴, 심장 리듬, 심지어 키보드 사용 등 인간 개개인 특징도 사용될 수 있다.  이번에는 사람 웃음이 생체인식에 어떻게 사용될 수 있는지에 대한 연구 결과(논문명: Laughter signature: a novel biometric trait for person identification)가 생체인식 국제저널(nternational Journal of Biometrics) 최근호에 실렸다. 나이지리아  라고스대학(University of Lagos) 연구팀은 사람들의 독특한 웃음이 목소리보다 훨씬 더 정확한 방법으로 인식을 한다고 주장했다. 실제로 다른 사람 목소리를 흉내 내는 데는 쉽지만, 웃음소리를 흉내 내는 것은 훨씬 더 어렵다.  연구팀은 사람 웃음…

물속 6000m 초고속 ‘광 와이파이’ 통신기술 개발

물속에서 초고속 통신이 가능한 광 와이파이(Wi-Fi) 기술이 개발됐다. 스위스 연방기술연구소 중 하나인 EPFL(École polytechnique fédérale de Lausanne) 스핀오프(spin-off) 하이드로미아(Hydromea)는 해저 6000m까지 통신이 가능한 소형 광학 모뎀을 개발했다고 20일(현지시각) 밝혔다 . 50m 이상 떨어진 곳에서도 초고속으로 데이터를 수집할 정도로 뛰어나다. 물속에서 통신은 쉽지 않다. 기존 전파는 물에 쉽게 흡수되기 때문에 1m 이상 갈 수 없다. 그래서 음향 통신을 이용하고 있지만, 속도가 매우 느리고 신뢰성이 떨어진다. 따라서 해상 에너지 수중 건설이나 검사, 모니터링, 유지보수 등에 있어 해결해야 할 장애물이다. 호소학(limnology) 연구 역시 마찬가지다. 하지만, 하이드로미아 연구팀은 빛을 이용해 바다나 호수 물속 아래로 데이터를 전송하는 해결책을 찾아냈다.  빠르게 깜박이는 파란 불빛을 통해 통신하는 ‘루마(LUMA)’라는…

“딥 러닝은 믿을 수 없다”

지난 20년 동안 딥 러닝은 상용 응용 프로그램을 통해 인공지능 연구가 활발히 진행되고 있다. 하지만 딥 러닝의 눈부신 발전 이면에는 기술의 한계도 지적되고 있다. 두뇌 모델링의 선구자인 스티븐 그로스버그(Stephen Grossberg)는 새 책 ‘의식적인 마음, 공명하는 두뇌: 어떻게 각 두뇌가 마음을 만드는가(Conscious Mind, Resonant Brain: How Each Brain Makes a Mind)’을 통해 “딥 러닝은 믿을 수 없다”고 주장한다. 일반적인 딥 러닝 프로그램은 여러 작업에서 뛰어난 성능을 제공한다. 하지만 둘 이상의 작업을 잘 수행할 수 없기 때문에 엄격하게 제한된 환경에서 특정 작업을 처리하는 데 적합하다. 게다가, 딥 러닝은 매우 복잡하며 완벽하게 작동하더라도 왜 완벽하게 작동하는지 설명할 수 없다. 또, 학습을 거듭해 가면,…