신소재 기반 인공 신경 모사 소자의 연구 현황
Recent Progress in Development of Artificial Neuromorphic Devices Based on Emerging Materials
Article information
Trans Abstract
In the fourth industrial revolution, the efficient processing of huge amounts of data is important due to the development of artificial intelligence (AI), internet of things (IoT), and machine learning (ML). The conventional computing system, which is known as von Neumann architecture, has been facing bottleneck problems because of the physical separation of memory and central processing unit (CPU). Many researchers have interested to study on neuromorphic computing, inspired by the human brain, to solve the bottleneck problems. The development of artificial neuromorphic devices, such as neuron and synaptic devices, is important to successfully demonstrate a neuromorphic computing hardware. Various Si CMOS transistor-based circuits have been investigated to implement the behaviors of the biological neuron and synapse; however, they are not suitable for mimicking the large-scale biological neural networks because of Si CMOS transistor's scalability and power consumption issues. In this report, we review the recent research progress in artificial neurons and synaptic devices based on emerging materials and discuss the future research direction of artificial neural networks.
1. 서론
4차 산업혁명 시대가 도래하면서 인공 지능 (AI, Aritificial Intelligence), 사물 인터넷 (IoT, Internet of Things), 기계 학습 (ML, Machine Learning) 등의 기술이 발전하게 되어 방대한 양의 데이터를 효율적으로 처리하는 것이 중요하게 여겨지고 있다.[1,2] 하지만, 기존의 컴퓨팅 구조인 폰노이만 구조 (von Neumann archtecure)의 컴퓨터는 중앙처리장치 (CPU, Central Processing Unit)와 저장 장치가 물리적으로 분리되어 있는 구조로 인하여 병목 현상 (bottleneck)이 발생하게 되고 이로 인해 많은 양의 데이터를 처리하는 데 한계가 존재한다.[3] 이를 해결하기 위하여 다양한 구조의 컴퓨팅 시스템들이 활발히 연구되고 있으며 그중에서도 사람의 뇌를 모방하는 뉴로모픽 컴퓨팅에 대한 관심이 지속적으로 증가하고 있다.[4] 뉴로모픽 컴퓨팅은 사람의 뇌 구조와 연산 과정을 하드웨어로 구현하는 기술로써 정보 처리와 저장을 동일 컴포넌트 및 병렬적으로 동시에 처리가 가능하기에 빠른 속도와 저전력으로 효율적인 연산이 가능한 구조로써 전 세계적으로 관련 연구가 폭발적으로 증가하고 있다.
뉴로모픽 컴퓨팅의 구현은 1980년대 후반 California Institute of Technology의 C. Mead 교수가 최초로 시도한 것으로 알려져 있으며[5] 인간의 뇌를 모방한 효율적인 동작을 바탕으로 학습, 인지, 판단 등의 고차원적인 기능을 병렬적으로 동시 처리가 가능하도록 전자기기로 구현한 시스템을 의미한다.[6,7] 과거의 연구자들은 뇌의 연산 과정 알고리즘 구조를 폰노이만 구조의 컴퓨팅을 통하여 구현하고자 하는 노력이 있었지만, 뉴로모픽 컴퓨팅은 연산 알고리즘의 모방을 넘어서 알고리즘 계산과 처리가 가능하도록 뇌의 구조와 기능을 모사한다는 것에 의의를 가진다. 이러한 뉴로모픽 컴퓨팅은 뇌의 행동 잠재력이라 부르는 이벤트 기반의 스파이크 (spike) 신호를 이용한 스파이크 기반 신경망 (SNN, Spiking Neural Network)을 구축하여 이를 통해 시간 기반 정보 처리 측면을 활용하는 다양한 분야에 응용할 수 있을 것으로 기대를 받고 있다.[8]
뉴로모픽 컴퓨팅 하드웨어는 인공 뉴런 및 시냅스 소자로 구성되기에 이미 확립된 실리콘 반도체 공정 기술을 바탕으로 상보성금속산화물반도체 (CMOS, Complementary Metal Oxide Semiconductor) 기반 집적 회로를 활용하여 신경 세포의 동작을 모사하는 연구도 많이 수행되고 있다. 하지만, CMOS 트랜지스터의 고유한 동작 특성으로 인해 신경 세포를 모사하기 위하여 상당한 수의 단위 트랜지스터가 요구되어 시스템이 복잡해지고 집적도도 감소하는 한계가 존재한다.[9] 따라서, 이런 한계점을 극복하고 효율적인 뉴로모픽 컴퓨팅 하드웨어를 구현하기 위하여 저전력, 고집적도 및 동작 특성을 향상 시킬 수 있는 신소재 기반의 인공 뉴런 및 시냅스 소자에 관한 연구가 중요하게 대두하고 있다. 특히, 이차원 물질 (2-dimensional materials), 금속-절연체 상변이 물질 (MIT, Metal-Insulator-Transition), 금속 산화물 (metal oxide) 재료, OTS (Ovonic Threshold Switch) 및 강유전체 (ferroelectric) 재료 등 다양한 신소재를 활용한 인공 뉴런 및 시냅스 소자 개발에 관한 연구가 많은 연구자들의 관심을 받고 있다. 본 원고에서는 다양한 신소재 기반 인공 신경 소자의 연구 현황에 대하여 소개하고자 하며 향후 연구 방향에 대하여 논의해보고자 한다.
2. 본론
2.1. 인공 뉴런 소자
Figure 1. a는 생물학적 뉴런의 개략도로서 소마 (soma), 덴드라이트 (dendrite) 및 액손 (axon)으로 구성되어 있는 것을 보여준다. 소마는 뉴런의 몸체 부분으로 Fig. 1. a에서 보이듯이 세포 핵을 가지고 있으며 덴드라이트와 액손을 이용하여 다른 뉴런들과 신호를 주고받으며 신경망을 구성하고 있다. 덴드라이트를 통하여 일정 수준 이상의 신호를 이전 뉴런들로부터 받게 되면 뉴런이 활성화되면서 액손을 통하여 다음 뉴런으로 신호를 전달한다. 이러한 생물학적 뉴런의 거동을 모사하기 위해서 Hodgkin-Huxley[10] 및 Izhikevich와[11] 같은 다양한 뉴런 모델이 제안되고 있으며 그중에서도 LIF (Leaky Integrate-and-Fire) 뉴런 모델이 유력한 후보로 연구되고 있다. Figure 1. b는 생물학적 뉴런의 동작을 모사하기 위하여 임계변환 (TS, Threshold Switching) 소자와 수동 부품들을 이용하여 구성한 회로의 개략도이다. 임계변환 소자 앞에 연결되어 있는 저항 (R S)과 축전기 (C mem)는 덴드라이트로부터 받은 신호를 통합하는 역할을 하며 임계변환 소자는 휘발성 메모리 특성을 갖는 소자로 특정 임계 전압에 도달하면 높은 저항 상태에서 낮은 저항 상태로 변화하는 특성으로 생물학적 뉴런의 발화 현상을 모사하는 역할을 한다. 해당 회로의 동작을 조금 더 상세히 설명하자면, 초기에 임계변환 소자는 높은 저항 상태이기에 전압이 인가되어도 소자를 통한 누설 전류가 작아 축전기에 전하가 쌓이고 이로 인해 막 전압 (membrane potential)이 증가하게 된다. 막 전압이 임계변환 소자의 임계 전압까지 증가하게 되면 소자가 낮은 저항 상태로 변화하고 축전기에 쌓인 전하들이 임계변환 소자를 통하여 빠져나가면서 출력 스파이크 신호를 생성하게 된다. 축전기에 쌓인 전하가 빠져나갔기 때문에 막 전압이 다시 감소하게 되고 이로 인해 임계변화 소자는 높은 저항 상태로 다시 돌아오게 되어 축전기에 전하가 쌓이는 동작을 반복하게 된다. 이러한 생물학적 뉴런의 동작을 모사하기 위해서 이차원 물질, 금속-절연체 상변이 물질, 금속 산화물 및 OTS 재료를 활용하여 임계변환 소자에 관한 연구가 보고되고 있다.
2.1.1. 이차원 물질 기반 인공 뉴런 소자
이차원 물질은 얇은 두께, 우수한 기계적 특성 및 전기적/광학적 특성들을 조절할 수 있는 특징을 가지고 있기에 많은 연구자들의 관심을 받고 있다. 또한, 댕글링 결합 (dangling-bond)이 표면에 존재하지 않아서 이차원 물질끼리 이종접합구조 (heterostructure) 제작이 용이한 장점도 가지고 있기에 이런 특성을 활용하여 이차원 물질 기반 인공 뉴런 소자에 관한 연구가 진행되고 있다.[12] 2020년 University of Central Florida의 T. Roy 교수 연구팀은 이차원 물질인 MoS2를 활용하여 임계변환 소자를 제작하고 이를 활용한 인공 뉴런 소자에 관한 연구를 발표하였다.[13] 연구팀은 화학기상증착방법으로 (CVD, Chemical Vapor Deposition) 성장시킨 MoS2 박막을 활용하여 2단자 멤리스터 소자를 제작하였으며 상부 및 하부 전극으로 각각 Ag와 Au를 사용하였다. 제작한 소자는 임계변환 소자의 전기적인 특성을 보이는 것을 확인하였으며 제작한 소자와 수동 부품을 이용하여 LIF 뉴런 동작을 모사하였다. 또한, 인가하는 전압의 폭이나 간격과 같은 조건을 변화시키거나 수동 부품의 값을 바꿈에 따라, 출력 신호 개수가 변화하는 것을 확인할 수 있었으며 이를 통해 다양한 응용 분야에 맞추어 인공 뉴런의 특성을 조절할 수 있는 장점을 보여주었다.
Indian Institute of Science의 K. Majumdar 교수 연구팀은 여러 이차원 물질을 활용하여 이종접합구조를 제작하고 이를 활용하여 제작한 발진기 (oscillator)를 2020년 ACS Nano 저널에 발표하였다.[14] Figure 2. a 는 SnSe2, WS2, BP, hBN 및 graphene 등 다양한 이차원 물질을 활용하여 제작한 이종접합구조 소자의 개략도이며 실제 제작한 소자의 광학 사진은 Fig. 2. b에 도시하였다. Figure 2. c는 이차원 물질의 접촉 전과 후의 에너지 밴드 다이어그램으로 BP와 SnSe2 사이에 있는 WS2가 터널 배리어 역할을 하는 것을 보여준다. 제작한 소자의 I-V 곡선은 Fig. 2. d에 도시하였으며 해당 그래프에서 보여주듯이 전압이 증가하여도 전류 값이 감소하는 음의 미분 저항 (NDR, Negative Differential Resistance) 특성을 확인하였다. 각각의 전압 범위에서의 에너지 밴드 정렬은 Fig. 2. e에서 확인할 수 있으며 그림에서 보여주듯이 이차원 물질들의 서로 다른 에너지 밴드 다이어그램으로 인하여 각각의 전압 범위에서 전자의 이동 방법이 달라지는 것을 도시하였다. Figure 2. f는 해당 소자를 이용한 발진기 구성 및 실험 방법의 개략도이며 발진기의 측정 결과는 Fig. 2. g, h에서 보이듯이 전압에 따라 주기 (frequency)가 달라지는 것을 확인할 수 있었다. 이처럼 이차원 물질 기반 이종접합 구조의 발진기의 동작이 생물학적 뉴런을 모사하기 적합하기에 이를 활용하여 인공 뉴런 소자 제작에 활용 할 수 있을 것으로 기대된다.
같은 해, Singapore University of Technology and Design의 R. Zhao 교수 연구팀은 이차원 물질인 MoS2를 활용하여 임계변환 소자를 제작하고 이를 활용하여 LIF 뉴런 동작을 구현하였다.[15] Figure 3. a에 도시한 것처럼 수평 구조의 2단자 소자이며 소스 및 드레인 전극으로 각각 Ag와 TiW를 사용하였다. Figure 3. b에서 도시한 I-V 곡선처럼 임계변환 소자의 전기적 특성을 확인할 수 있었으며, 이를 활용하여 Fig. 3. c, d와 같이 전압의 진폭 (amplitude)에 따라 소자가 발화할 때까지 필요한 인가 전압 펄스의 숫자가 변화하는 것을 확인할 수 있었다. 이와 같은 저항 변화의 원인은 MoS2 표면을 따라서 Ag 금속 이온의 확산을 통한 금속 필라멘트의 형성으로 발생한다. SEM-EDS 분석 및 AFM 분석 결과 Fig. 3. e가 보여주듯이 MoS2 표면에서 Ag 금속 이온을 확인할 수 있었으며 이를 통하여 소스 전극에 가해준 전압에 의해 Ag 금속 이온이 드레인 전극 방향으로 확산 되어 필라멘트를 형성하게 되고 이로 인하여 소자의 저항이 변화하는 것을 확인할 수 있었다. 최근 보고된 이차원 물질 기반 인공 뉴런은 성공적으로 생물학적 뉴런의 거동을 모사하였기에 향후 뉴로모픽 컴퓨팅을 위한 소자로서 활용이 기대된다.
2.1.2. 금속 산화물 기반 인공 뉴런 소자
금속 산화물 기반 저항 변화 메모리 소자 (RRAM, Resistive Random Access Memory)는 저전력, 높은 집적도 및 CMOS 공정과의 호환성 등으로 차세대 메모리 소자로서 활발히 연구되고 있다. 소자의 구조는 커패시터와 유사한 금속-절연체 (금속 산화물)-금속의 구조 (MIM, Metal-Insulator-Metal)이며 저항 변화는 동작 전압에 의해 산화물 내 전도성 필라멘트의 형성과 파열을 통해 이루어진다. 저항 변화 메모리 소자의 동작 거동은 사용된 금속 산화물과 전극 물질의 종류에 따라 다른 메커니즘으로 동작한다. 전도성 필라멘트 형성에 영향을 주는 전극은 활성 전극 (active electrode)이라 하며, 영향을 주지 않는 상대 전극을 불활성 전극 (inert electrode)이라 한다. 일반적으로 (활성 전극 + 불활성 전극) 또는 (활성 전극 + 활성 전극) 조합으로 구성된 저항 변화 메모리 소자는 금속 양이온 기반 필라멘트를 형성하며, (불활성 전극 + 불활성 전극)으로 구성된 소자는 산소 이온 기반 전도성 필라멘트를 형성한다. 이러한 저항 변화 메모리 소자는 소자 크기 (< ~10 nm), 동작 속도 (< ~ns), 소모 전력 (< 0.1 pJ) 및 내구성 등 우수한 특성을 가질 수 있으며, 특히 2단자 소자로서 높은 집적도의 크로스바 어레이 (crossbar array) 구현이 가능할 것으로 기대되고 있다.
2018년 University of Chinese Academy of Sciences의 M. Liu 교수 연구팀은 활성화 금속으로 Ag를 사용한 Ag/SiO2/Au 구조의 인공 뉴런 소자를 보고하였다.[16] 생물학적 뉴런의 거동을 모사하기 위해 인공 뉴런 소자에 2개의 저항과 1개의 커패시터를 적용하여 인가 신호의 축적과 스파이크 발화 동작을 구현하였다. 저항과 커패시터의 가변을 통해 시상수 (time constant)에 따른 인가 전압의 충전과 방전 경향을 최적화하였으며, 이를 통해 임계변환 소자의 동작과 스파이크 발화 이후 뉴런의 불응기 (refractory period)를 구현하였다.
같은 해 University of Massachusetts, Amherst의 J. Yang 교수 연구팀은 SiO x N y에 Ag 나노 클러스터를 도핑한 LIF 뉴런을 보고하였으며, 이를 크로스바 어레이 형태의 시냅스와 통합하여 뉴럴 네트워크를 제작하였다.[17] 제작된 8개의 뉴런과 8 × 8 시냅스로 구성된 뉴럴 네트워크는 노이즈가 인위적으로 추가된 4가지 문자 패턴(“U”, “M”, “A”, “S”)을 서로 다른 시간의 전류 응답을 통해 성공적으로 분류하였다. 해당 보고를 통해 산화물 기반 뉴런 소자 어레이는 에너지 효율적 방식으로 추론 및 인식 학습이 가능하며, 시스템 확장을 통해 더 복잡한 학습을 수행할 수 있음을 보였다.
Tsinghua University의 H. Qian 교수 연구팀은 HfO2 기반 2단자 멤리스터 소자를 제작하고 이를 활용하여 생물학적 뉴런의 동작을 성공적으로 구현하였다.[18] 연구팀은 HfO2의 두께에 따라 동작 전압이 변화하는 것을 실험적으로 보였으며 1개의 저항을 임계변환 소자와 연결하여 I-V 측정을 통해 소자가 ON 되었을 때의 전류 값을 제어할 수 있음을 보였다. 제작한 소자를 활용하여 Fig. 4. a에 도시한 것처럼 인가 전압의 진폭이 증가함에 따라서 발진기의 주기가 증가하는 것을 측정하였다. 제작한 인공 뉴런 소자의 특성을 활용하여 CIFAR-10 데이터 셋을 기반으로 이미지 분류를 시뮬레이션한 결과 Fig. 4. b에 표시한 것처럼 79.2%의 정확도를 확인할 수 있었다.
2.1.3. 금속-절연체 상변이 물질 기반 인공 뉴런 소자
금속-절연체 상변이 물질은 Mott 변환에 의하여 물질의 저항 상태가 바뀌는 물질들을 지칭한다. 밴드 구조의 밀도 함수 계산 (density functional calculation)에 따르면 Mott 물질들은 금속의 성질을 가져야만 하지만 전자들의 강한 반발력 (coulomb repulsion)으로 인해 절연체의 성질을 보이게 된다.[19, 20] P. Stoliar 등은 AM4 Q8 (A = Ga, Ge; M = V, Nb, Ta, Mo; Q = S, Se) 구조의 소재들이 전이 금속 (M4)으로 인하여 Mott-Hubbard 간격이 존재 하기에 Mott 변환 성질을 보이는 것을 발표하였다.[21] 또한, VO2 및 NbO2와 같은 산화물 기반 물질에서도 Mott 변환을 확인할 수 있는데 이는 주로 줄 히팅으로 발생하는 열에 의해 음의 미분 저항 특성이 발생하기 때문이다.[22, 23] 줄 히팅에 의해서 발생한 열 때문에 인가되는 전압에 의한 전자의 이동이 더 빨라지게 되어 전자 상태가 불안정해져 Mott 변환이 발생하게 되고 이러한 특성을 인공 뉴런 소자에 활용하는 연구가 활발히 진행되고 있다. Tsinghua University의 R. Zhao 교수 연구팀은 NbO x를 기반으로 인공 뉴런 소자를 2022년에 발표하였다.[24] NbO x 기반 소자는 Fig. 5. a와 같이 임계변환 소자의 전기적 특성을 보였으며 수동 부품과 연결된 회로를 통하여 발진기 특성을 보여주었다(Fig. 5. b, c). 해당 소자를 활용하여 연구팀은 사람의 시각 및 청각과 같은 감각 기관의 동작을 성공적으로 구현한 결과를 Fig. 5. d에 도시하였다.
같은 해, Peking University의 Y. Yang 교수 연구팀은 VO2 기반 인공 뉴런 소자를 활용하여 다양한 자극에 반응하는 연구 결과를 발표하였다.[25] 연구팀은 VO2를 c-Al2 O3 기판위에서 펄스 레이저 증착 (PLD, Pulsed Laser Deposition) 방법을 활용하여 박막을 성장시켰으며 Au 소스 및 드레인 전극을 증착하여 수평 구조의 임계변환 소자를 제작하였다. Figure 6에 도시한 것처럼 제작한 VO2 기반 소자와 압력, 빛, 그리고 온도를 감지하는 소자와 연결하여 각각의 자극의 정도에 따라 발진기의 주기가 달라지는 것을 확인 할 수 있었다. 또한, 연구팀은 곡선 센서를 손가락에 연결하여 휘어짐의 정도에 따라 VO2 기반 발진기의 주기수가 달라지는 것을 확인하였고 이를 통하여 웨어러블 장비에 활용 가능성을 보여주었다.
최근 보고된 다양한 물질 기반의 인공 뉴런 소자들과 특징들을 Table 1에 요약하였다. 같은 재료를 사용했음에도 불구하고 제작한 소자의 구조에 따라 다른 동작 원리 및 성능을 가진 인공 뉴런들이 보고되고 있다. 언급한 소재 이외에 OTS 물질[26, 27] 및 상변이 소재[28] 등을 활용한 인공 뉴런 소자 연구가 진행되고 있다. 하지만, 현재 신소재 기반 인공 뉴런 소자는 내구성과 소자 균일성 측면의 문제를 지니고 있기에 이를 개선하기 위해 다양한 신소재 및 그 특성을 적용한 활발한 연구를 기대한다. 또한, 신소재 기반 인공 시냅스 소자보다는 상대적으로 적은 결과가 발표되고 있기에 뉴로모픽 컴퓨팅 하드웨어를 구현하기 위해서 인공 뉴런 소자 개발 연구에 지속적인 관심이 필요할 것으로 생각된다.
2.2. 인공 시냅스 소자
Figure 7은 사람의 신경망에 대한 개략도이다.[32] 전단 뉴런의 액손 부분과 후단 뉴런의 덴드라이트 부분이 시냅스를 통하여 연결되어 있으며 해당 부위에서 K+/ Ca+ 이동에 의하여 발생하는 전류 신호가 정보 전달, 처리 및 저장 과정에서 중요한 역할을 하게 된다. 따라서, 생물학적 시냅스를 모사하는 소자는 뉴런 간 연결 강도를 나타내는 시냅스 가중치 (synaptic weight) 특성을 모사하는 것이 중요하다. 시냅스 가중치는 자극의 정도, 자극의 시간적 상관 관계에 따라 강화되거나 약화 될 수 있다. 이러한 시냅스의 가소성 (synaptic plasticity) 특징은 상대적으로 동작이 많이 일어나는 부위는 뉴런 간 연결 강도를 증가시키고, 적은 부위의 강도는 이를 감소시켜 방대한 양의 정보를 효율적으로 처리할 수 있게 한다. 가중치는 정보에 대한 학습과 경험의 반복에 따라 단기 기억, 장기 기억 혹은 망각 단계를 구현하기 위해 다양한 상태 (multi-level)를 한 소자에서 표현하는 아날로그 특성이 중요하다. 생물학적 시냅스의 가중치 특성은 인공 시냅스 소자의 컨덕턴스 (conductance)로 모사되며 소자의 구조에 따라 전하 트랩, 금속 필라멘트 형성 및 강유전체 물질의 분극 현상 등 다양한 원리로 가중치 변화 특성을 모사한다. 장기 증감/감쇠 (LTP/LTD, Long Term Potentiation/Long Term Depression) 측정은 인공 시냅스 소자의 시냅스 가소성 특징을 검증하기 위하여 주로 사용되는 측정 방법이다. 주로 전기 또는 빛과 같은 외부 자극을 펄스로 인가하고 이로 인한 소자의 가중치 변화를 측정한다. 또한, 쌍 펄스 촉진/감쇠 (PPF/PPD, Paired-Pulse Facilitation/ Paired-Pulse Depression)는 인가되는 2개의 펄스 시간 차이에 따라 시냅스 가중치 변화를 측정하는 방법으로 주로 단기 시냅스 가소성 (short-term synaptic plasticity)을 평가하는 방법이다. 이러한 시냅스 가중치의 대표적인 학습 방법으로는 전단 뉴런과 후단 뉴런의 스파이크 발화 시간 차이에 의해 연결의 강도를 보정하는 STDP (Spike-Timinig-Dependent Plasticity) 및 인가되는 펄스 전압의 간격에 따라 시냅스 가중치가 변화하는 SRDP (Spike-Rate-Dependent Plasticity) 방법이 있다. 생물학적 시냅스를 성공적으로 모사하는 소자를 제작하기 위하여 이차원물질, 금속 산화물, 강유전체 등 다양한 소재 기반 인공 시냅스 소자들에 관한 연구가 보고되고 있다.
2.2.1. 이차원 물질 기반 인공 시냅스 소자
이차원 물질을 활용한 비휘발성 메모리 (non-volatile) 소자는 높은 ON/OFF 비율, 좋은 유지 (retention) 성능 및 견고한 내구성으로 이차원 물질 기반 비휘발성 메모리 소자를 활용하여 생물학적 시냅스를 모방하기 위한 많은 연구가 활발히 진행되고 있다.[12] 2022년 한국과학기술연구원의 곽준영 박사 연구팀은 이차원 물질 중 하나인 PdSe2 및 graphene을 활용하여 3단자 비휘발성 메모리 소자를 제작하고 이를 활용하여 펄스를 이용한 시냅스 가중치의 변화 및 STDP와 같은 다양한 시냅스의 동작을 성공적으로 구현하였다.[33] Figure 8. a는 제작한 소자의 개략도이며 PdSe2 및 graphene은 각각 채널 및 플로팅 게이트 (floating gate) 물질로 사용된 것을 보여준다. 제작한 소자의 게이트 및 드레인 전극에 전압 펄스를 인가 한 경우, 플로팅 게이트에 트랩되는 전하 양이 변화하고 이로 인해 채널 전류 값이 변화하기에 이를 통해 시냅스 가소성 특징을 구현하였다. 전단 및 후단 뉴런의 신호는 각각 시냅스 소자의 게이트 및 드레인 전극에 인가하여 시냅스 가중치를 조절하였으며 각 64회의 증감 및 감쇠 펄스에 의하여 시냅스 가중치가 변화하는 것을 확인할 수 있었다(Fig. 8. b, c). Figure 8. d는 STDP 특성을 측정하기 위한 실험의 개략도이다. 전단 뉴런 및 후단 뉴런에 인가되는 신호의 시간 차이를 이용하여 시냅스 소자의 가중치 변화를 측정하였으며 Fig. 8. e에서 보이는 것처럼 생물학적 시냅스의 거동과 유사한 측정 결과를 얻을 수 있었다. 이를 통하여 이차원 물질을 기반으로 제작한 3단자 플로팅 게이트 메모리 소자의 인공 시냅스 소자로써 활용 가능성을 확인할 수 있었다.
같은 해, 동일 연구팀은 금속-유기 화학기상증착법 (MOCVD, Metal-Organic Chemical Vapor Deposition)을 사용하여 합성한 Ge4 Se9과 MoS2의 이종접합구조 소자를 제작하여 생물학적 시냅스의 거동을 구현하였다.[34] Figure 9. a에서 이차원 물질의 이종 접합구조 기반 소자의 개략도와 실제 제작한 소자의 광학 사진을 확인할 수 있다. Figure 9. b는 제작한 소자의 전달 곡선 (transfer curve)으로 인가하는 게이트 전압의 범위에 따라 히스테리시스 (hysteresis) 특성이 변화하는 것을 확인할 수 있다. 이러한 현상은 게이트 전압에 의하여 Ge4 Se9과 SiO2 사이의 계면에 전하가 트랩되기 때문이며 더 높은 진폭의 게이트 전압을 인가 할수록 임계전압의 변화가 커지는 것을 보여준다. Figure 9. c는 제작한 소자의 시냅스 가소성을 측정한 결과이며 읽기 시, 인가하는 게이트 전압에 따라 동작 전류 범위가 달라지는 것을 보여준다. 이처럼 하나의 소자를 활용하여 다양한 동작 전류 범위를 구현할 수 있으면 향후 인공 신경망 구성 시, 다양한 동작 범위를 요구하는 소자 및 응용 분야에 효율적으로 활용할 수 있을 것으로 기대된다. 인공 시냅스 소자의 중요한 지표 중 하나는 시냅스 가중치를 선형적으로 변경하는 것이며 이는 많은 연구 결과를 통하여 고성능 뉴로모픽 시스템을 구현하기 위해서 중요하게 여겨지고 있다. Figure 9. d는 증감 및 감쇠 펄스에 의하여 시냅스 가중치의 변화 정도를 보여주는 결과이며 이를 통해 0.26 및 0.95의 비선형성 (non-linearity) 결과를 확인할 수 있었다. 비선형성 값이 0에 가까울수록 이상적인 경우로 이 값이 0인 경우, 시냅스 가중치가 선형적으로 변화함을 의미한다. Figure 9. e, f는 제작한 소자의 특성을 활용하여 MNIST 데이터 셋을 기반으로 수기로 작성한 숫자를 분류하는 시뮬레이션 결과이다. 그림에서 보듯이 제작한 소자를 기반으로 한 시뮬레이션 결과, 분류 정확도는 88.3%로 이는 이상적인 소자의 93.85%와 비교할만한 결과를 보여준다. 이러한 결과들을 바탕으로 이차원 물질인 Ge4 Se9과 MoS2의 이종접합구조 기반 인공 시냅스 소자는 생물학적 시냅스 소자의 동작을 성공적으로 모사하였기에 향후 고성능 뉴로모픽 컴퓨팅 하드웨어에 응용할 수 있을 것으로 기대된다.
2.2.2. 금속 산화물 기반 인공 시냅스 소자
금속 산화물 내 산소의 산화환원 반응을 통해 생성된 산소 공공 기반 전도성 필라멘트를 이용한 방식을 VCM (Valence Change Mechanism)이라 하며, VCM 기반 소자는 유망한 인공 시냅스 소자로 연구되고 있다. 전도성 필라멘트는 인가 된 전압에 의해 생성된 산소 공공의 이동과 누적을 통해 형성되며, 상하부 전극 사이의 산화물 영역에 위치한다. 그러나 초기 상태의 소자는 산화물 층의 높은 저항으로 인해 전류가 흐르기 어려우며, 이를 위해 포밍 (electroforming), 불순물 도핑, 그리고 표면 처리 등을 통해 산소 공공을 만들어 주는 과정이 필요하다. 포밍 공정은 동작 전압보다 높은 전압을 인가하여 산화물 영역의 soft breakdown을 발생시켜 양극 계면으로 산소 이온을 생성 및 이동시키는 과정이다. 그러나 이러한 포밍 과정은 소자 간 큰 편차를 유발할 수 있으며, 반복되는 후속 스위칭 동작 동안 제어하기 어려운 산화 환원 반응을 통해 저항 상태의 무작위 변동 혹은 열화를 유발할 수 있다. 2022년 한국과학기술연구원 윤정호 박사팀은 인가 전압에 따른 산화 환원 반응과 전도성 필라멘트의 향상된 제어가 가능한 Pt/HfO2 NR (nanorods)/TiN 구조의 멤리스터를 보고하였다.[35] NR 멤리스터는 박막형 (TF) 멤리스터에 비해 선형적인 시냅스 가소성 변화 특성을 보였으며 STDP 거동 등 생물학적 시냅스 특성을 조사하였다. 특히, NR에 의한 전기장 집중 효과로 인해 포밍 공정이 필요하지 않아 균일한 스위칭 동작과 선형적인 전도도 변조가 가능했다. 이러한 선형적 가중치 변화 특성은 MNIST 패턴 인식 학습 시뮬레이션 결과, 박막형보다 약 20% 향상된 학습 정확도를 보여주는 결과를 보고하였다(Fig. 10).
2022년 서울대학교 황철성 교수 연구팀은 VCM 기반 메모리 소자의 산화 화원 반응을 제어하여 소자의 내구성을 향상시키기 위해 Al/ZrO2/TiO2/Al 구조의 비휘발성 메모리 소자를 발표하였다.[36] 2.5 nm의 얇은 ZrO2 층을 증착함으로써 TiO2 산화물 층으로부터 금속 전극으로 새어나가는 산소의 손실을 억제하여 소자의 내구성, 가변성 및 유지 성능을 개선한 결과를 발표하였다(Fig. 11). 이처럼 다양한 물질 및 구조적 개선을 통해 우수한 내구성을 가지는 VCM 기반 메모리 소자를 활용하여 뉴로모픽 하드웨어를 위한 인공 시냅스 소자 개발 연구가 활발히 진행되고 있다.
2.2.3. 강유전체 물질 기반 인공 시냅스 소자
강유전성 (ferroelectric)은 외부에서 인가하던 전기장이 사라져도 두 방향의 잔류 분극 (remanent polarization)을 갖는 성질을 의미하며 이러한 강유전성을 이용한 메모리는 저전력, 비휘발성 차세대 소자로 상용화에 주목받고 있다. 2011년 독일의 NamLab에서 HfO2 기반의 강유전성 박막이 처음 보고되면서 강유전체 물질 기반 메모리 소자에 대한 연구가 다시 활발해지고 있다.[37] HfO2 기반 박막의 결정 구조는 열역학적으로 상온, 1750 ℃, 2700 ℃에서 각각 monoclinic, tetragonal, cubic 상을 얻을 수 있으며, 2011년도에는 기존에 평형 상태도에는 없던 orthorhombic 강유전성 결정상이 SiO2 도핑된 HfO2 박막에서 발견되었다. 이후 Si, Zr, Al, Y, Gd, La 등 다양한 도핑이 시도되었으며, 그중에서도 Zr이 도핑된 HZO (Hf1-x Zr x O2) 박막은 Hf 과 유사한 원자 특성, 낮은 열처리 온도 (400-500 ℃), 넓은 조성 범위 (~50%)로 인해 다른 도펀트들에 비해 더욱 많은 관심을 받고 있다.[37] 또한, HZO는 주로 ALD (Atomic Layer Deposition) 공정을 통해 증착되어 조성비 조절이 용이하며, 10 nm 이하의 두께에서도 안정적으로 강유전성이 발현되는 특징을 갖는다.
강유전체 특성을 이용한 2단자 소자는 터널링 현상을 이용한 FTJ (Ferroelectric Tunnel Junction)가 활발히 연구되고 있다. FTJ는 MFM (Metal-Ferroelectric-Metal) 구조이며 양단에 전기장을 인가할 시, 극성에 따라 분극 역전 (polarization reversal)에 의해 포텐셜 장벽 (potential barrier)의 크기가 달라지는 특성을 가진다. 이러한 분극 역전은 FTJ의 저항을 바꿔 터널링 전류를 변화시키게 되는데 이를 터널링 전기저항 (TER, Tunneling Electroresistance) 효과라 한다. 다른 분극 상태의 터널링 전기저항은 비휘발성 데이터로서 저장될 수 있으며, 스위칭 전류가 아닌 FTJ를 가로지르는 터널링 전류를 이용하여 데이터 읽기가 이루어지기 때문에 비파괴적인 동작이 가능하다는 장점이 있다. 2019년 University of Illinois at Urbana-Champaign의 W. Zhu 교수 연구팀은 FTJ의 높은 잔류 분극과 터널링 전류를 달성하기 위해 metal/Al2 O3/HZO/Si 구조의 FTJ 기반 메모리 소자를 제작하고 생물학적 시냅스의 동작 모사를 보고하였다.[38] 중간 터널링 층으로 적용된 Al2 O3와 Si 기판은 전하 축적 및 터널링 폭의 감소를 통해 터널링 전류를 증가시켰으며, 이를 통해 10 nm의 HZO에서도 기존보다 향상된 ON/OFF 비율을 보고하였다. 또한, 높은 잔류 분극 (21 μC/cm2)을 이용하여 프로그램 펄스에 의한 다양한 상태의 시냅스 가중치 구현, 선형적인 증감/감쇠 특성 및 STDP 거동 등 우수한 시냅스 특성을 보였다. 특히, 상온에서 10년 이상의 긴 데이터 보유 특성과 107 이상의 쓰기 동작 결과는 뉴럴 네트워크를 위한 높은 잠재력을 가진 소자임을 보였다(Fig. 12).
위에서 소개한 HZO 소재 외에도 BiFeO3, Pr (Zr, Ti)O3, BaTiO3 등 다양한 강유전체 물질을 활용한 연구가 진행되고 있으며 CuInP2 S6 (CIPS), In2 Se3, WTe2 및 MoTe2 와 같은 2D-강유전체 재료들에 대한 연구도 보고 되고 있다. 2020년 National University of Singapore의 K.-W. Ang 교수 연구팀은 Au/CIPS/Ti 구조의 강유전체 다이오드 (diode)를 제작하고 이를 활용하여 생물학적 시냅스 특성을 구현하였다.[39] Figure 13. a, b에서 도시한 것처럼 연구팀은 펄스의 진폭 및 기간에 따라 시냅스 가중치의 동작 범위를 제어할 수 있음을 발표하였다. 또한, 상부 전극 및 하부 전극에 각각의 펄스를 인가하여 그 시간 차에 따른 STDP 특성도 CIPS 기반 인공 시냅스 소자로 구현할 수 있음을 확인하였다. 이를 통해 2D-강유전체 재료도 인공 시냅스 소자를 성공적으로 제작할 수 있음을 발표하였으며 향후 뉴로모픽 컴퓨팅에 응용할 수 있을 것으로 기대 된다.
HZO 기반의 FeFET (Ferroelectric Field Effect Transistor)는 MFIS (Metal-Ferroelectric-Insulator-Silicon) 구조로 강유전체 박막을 3단자 FET 소자에 적용한 구조이다. 강유전체의 분극 스위칭을 이용하여 채널의 형성을 조절하고, 문턱 전압을 변화시켜 다양한 상태의 동작 수행이 가능한 비휘발성 메모리 소자이다. 현재, 주로 연구되고 있는 MFIS 구조는 좁은 메모리 윈도우 (< 3 V)와 제한된 내구성 (< 106 cycles) 때문에 응용이 제한되어왔다. 이는 높은 C FE (ferroelectric capacitance)가 게이트 스택 내의 capacitance mismatch에 기인하게 되는 문제로서 절연체 박막에 인가되는 전압은 증가하고 강유전체 박막에 인가되는 전압이 감소하여 FeFET 소자의 특성이 열화하게 된다. 따라서, 구조적 접근 (MFMIS stack) 및 C FE를 감소시키기 위한 물성적 접근 등을 통한 다양한 연구가 활발히 이뤄지고 있다. 2017년 University of Notre Dame 의 S. Datta 교수 연구팀은 TiN/HZO/ SiO2/p-Si 구조의 FeFET를 제작하고, 다양한 저항 변화 메모리 소자 (TaO x/TiO2, PCMO, Ag:a-Si, AlO x/ HfO2)들과 비교하여 제작한 소자의 우수한 시냅스 특성을 보고하였다.[40] 특히, 높은 ON/OFF 비율 (~ 45), 75 ns의 펄스 전압 인가 시 1.75 및 1.46의 비선형 계수를 가지는 증감/감쇠 특성을 통해 MNIST 온라인 학습 결과 약 90%의 정확도를 기록했다. 반도체 채널의 반전층 생성을 이용한 전통적인 Si 채널 기반의 FeFET 뿐만 아니라, 산화물 반도체[41] 혹은 이차원 물질[42] 등이 채널로 적용된 FeFET도 시냅스 소자로서 연구되고 있다.
최근 보고된 다양한 물질 기반 인공 시냅스 소자들과 그 동작 특징들을 Table 2에 요약하였다. 소자 구조 및 사용한 물질에 따라 각각 다른 동작 원리를 활용하여 시냅스 가소성을 구현하였으며, 생물학적 시냅스처럼 STDP 및 SRDP와 같은 학습 방법을 통하여 가중치의 강도 변화가 가능함을 보고하였다. 인공 시냅스 소자에 적용된 소재 및 구조에 따라 소자의 동작 전압, 시냅스 가중치 범위, 펄스 조건 등 다양한 동작 조건을 갖는 것을 확인할 수 있었다. 따라서, 여러 분야에서 요구되는 조건에 맞는 소자를 개발하는 것이 향후 인공 시냅스 소자 개발에 있어 중요할 것으로 예상되기에 위에서 언급한 소재 외의 다양한 신소재를 활용한 인공 시냅스 소자 개발에 많은 관심이 필요할 것으로 생각된다.
2.3. 인공 신경 모사 소자를 활용한 소규모 인공 신경망 구현
기존의 컴퓨팅 구조로 발생하는 문제를 해결하고 저전력 고효율 컴퓨팅 구조에 대한 요구가 증가하면서 뉴로모픽 컴퓨팅에 대한 연구자들의 관심이 높아지고 있다. 효율적이고 에너지 소모가 적은 뉴로모픽 컴퓨팅 하드웨어를 구현하기 위해 위에서 언급한 다양한 신소재를 활용하여 인공 뉴런 및 시냅스 소자들이 활발히 연구되고 있다. 하지만, 단일 인공 뉴런 및 시냅스 소자 개발에 연구 인력이 집중되다 보니 개발된 인공 신경 모사 소자들을 통합하여 인공 신경망을 구현하는 연구는 상대적으로 적은 관심을 받고 있다. 2019년 Georgia Institute of Technology의 S. Yu 교수 연구팀은 HfO2 기반 인공 시냅스 소자의 12×1 크로스바 어레이와 1개의 NbO2 기반 인공 뉴런 소자를 통합하여 소규모 인공 신경망에 관한 연구를 발표하였다.[45] 연구팀은 인공 시냅스 소자에 인가되는 펄스의 개수가 증가함에 따라 인공 뉴런 소자의 발진 주기가 증가하는 결과를 보고하였으며 이를 통해 전단 뉴런으로부터 받는 신호 강도가 강해질수록 출력 신호가 변화하는 생물학적 신경망을 성공적으로 모사할 수 있었다. 또한, 메모리 소자의 크기에 따라 발진의 주기와 진폭이 어떻게 변화하는 것에 관한 연구 결과를 통하여 향후 뉴로모픽 시스템에 적용 시, 소자의 최적화 방안을 제시하였다.
2020년 Peking University의 Y. Yang 교수 연구팀은 4×4 크기의 멤리스터 기반 인공 신경망을 모노리식 (monolithic)하게 제작하고 이를 활용하여 픽셀 패턴 분류 결과를 보고하였다.[46] 연구팀은 TaO x 기반 인공 시냅스 소자와 NbO x 기반 인공 뉴런 소자를 통합하여 Fig. 14. a와 같이 인공 신경망을 구성하였다. 특정 픽셀 패턴에 대하여 인공 신경망을 학습시킨 후, 6가지 픽셀 패턴에 대한 신호를 인가하여 패턴 분류 성능에 대하여 평가하였다. Figure 14 b, c에서 보여주듯이 학습된 패턴에 대해서 가장 빠른 주기를 보였기에 제작한 인공 신경망을 활용하여 6가지 픽셀 패턴을 성공적으로 분리할 수 있음을 보고하였다.
이와 같이 신소재 기반의 소규모 인공 신경망에 관한 연구는 향후 대규모 인공 신경망을 제작하고 활용하기 위해서 필수적으로 수행되어야 하는 선행연구 분야이다. 다양한 신소재 기반의 인공 신경 모사 소자들이 개발되고 있지만, 소규모 인공 신경망에 관한 연구는 현재 금속 산화물 기반 인공 신경 모사 소자들에 한해서 보고되었기에 대규모 인공 신경망 구현을 위하여 다른 신소재 기반 인공 신경망 및 서로 다른 소재를 사용한 인공 뉴런 소자와 인공 시냅스 소자를 통합하는 연구 등 다양한 관점으로 해당 연구 분야에 지속적인 접근이 필요할 것으로 생각된다.
3. 결론
본 원고에서는 이차원 물질부터 금속 산화물 재료, 금속-절연체 상변이 물질, 그리고 강유전체 물질 등 다양한 신소재 기반 인공 뉴런 및 시냅스 소자에 관한 최근 연구 동향에 대하여 알아보고 향후 대규모 인공 신경망 구현을 위하여 필요한 연구 분야에 대하여 논의하였다. 이번 글에서 언급한 내용을 바탕으로 앞으로의 인공 신경 모사 소자 연구에 조금이나마 도움이 되길 바라고 향후 저전력, 고효율 뉴로모픽 컴퓨팅 하드웨어를 구현할 수 있기를 기대하며 글을 마치고자 한다.
Acknowledgements
This work was supported by the National Research Foundation of Korea (NRF) (grant no. 2021M3F3A2A01037738).
References
Biography
◉◉조 유 연
◉ 2008년 서울시립대학교 화학공학과 학사
◉ 2010년 서울시립대학교 화학공학과 석사
◉ 2021년Universityof Massachusetts, Amherst 화학공학과 박사
◉ 2021년-현재 한국과학기술연구원 박사 후 연구원
◉◉이 대 규
◉ 2021년 단국대학교 디스플레이공학과 학사
◉ 2022년-현재 고려대학교 신소재공학과 석사 과정
◉ 2022년-현재 한국과학기술연구원 학생연구원
◉◉곽 준 영
◉ 2004년 Cornell University 전자공학과 학사
◉ 2005년 Cornell University 전자공학과 석사
◉ 2015년Cornell University전자공학과박사 2005년–2009년 삼성전자 반도체 Flash 메모리 설계
◉ 2015년–2017년미국 IntelCorporation SeniorDevice Engineer
◉ 2017년–현재 한국과학기술연구원 책임연구원
◉ 2022년–현재 과학기술연합대학원대학교 (UST) 부교수