파동 광학과 나노포토닉 픽셀

픽셀이 파장만 해질 때: 광선에서 파동으로

광선 광학은 빛을 직진하는 선으로 다룬다. 이 근사가 맞으려면 구조의 크기가 파장보다 훨씬 커야 한다. 스마트폰 픽셀의 피치는 2010년대 1.4 µm에서 2020년대 0.56~0.7 µm로 줄었다. 공기 중 가시광 파장(0.4~0.7 µm)과 같은 크기다. 매질 안에서는 파장이 $\lambda/n$로 줄기 때문에 컬러 필터(n ≈ 1.6) 안에서는 0.25~0.44 µm, 실리콘(n ≈ 3.8~4.7) 안에서는 0.1~0.17 µm가 된다. 그래서 같은 픽셀 안에서도 렌즈와 필터 층은 "파장 몇 개" 크기의 회절 영역이고, 실리콘 안은 그보다 조금 나은 다중 모드 도파관 영역이다.

광선과 파동 중 어느 그림이 맞는지는 프레넬 수(Fresnel number)로 가늠한다. 반지름 $a$인 개구로 들어온 빛을 거리 $z$에서 볼 때

계산 예: 피치 0.7 µm 픽셀의 갭리스 렌즈($a$ = 0.35 µm)가 폴리머(n = 1.6) 안에서 $f$ = 1.2 µm에 초점을 맺는다면 $\lambda_m$ = 0.344 µm, $N_F$ = 0.35²/(0.344 × 1.2) ≈ 0.30이다. 반점의 첫 0점은 $\Delta x_0$ ≈ 0.344 × 1.2/0.7 ≈ 0.59 µm로, 픽셀 폭과 거의 같다. 광선 추적은 이 렌즈가 초점에서 빛을 한 점에 모은다고 말하지만, 실제로는 픽셀 폭만 한 얼룩이 생긴다. 같은 계산을 1.4 µm 픽셀(f = 2 µm)에 하면 $N_F$ ≈ 0.71이라 사정이 훨씬 낫다. 아래 시뮬레이터는 이 차이를 각 스펙트럼법으로 직접 보여 준다.

각 스펙트럼법(angular spectrum method)은 렌즈 바로 뒤의 장 $u(x,0)$을 평면파 성분으로 분해(푸리에 변환)하고, 각 성분을 정확한 전파 인자로 깊이 $z$까지 보낸 뒤 다시 합친다.

맥스웰 방정식을 격자에 올리기: FDTD

구조가 파장보다 작고 굴절률 대비가 크면(Si 4 대 산화막 1.46) 근사 없이 맥스웰 방정식을 풀어야 한다. 픽셀 광학 설계에서 가장 널리 쓰는 방법이 FDTD(Finite-Difference Time-Domain, 유한차분 시간영역법)다. 공간을 격자로, 시간을 작은 스텝으로 나누고, 두 회전 방정식을 차분식으로 바꿔 전기장과 자기장을 번갈아 갱신한다.

Yee 격자(Yee lattice) 위의 1-D 갱신식은 다음과 같다($c = 1$로 정규화, $S = c\Delta t/\Delta x$).

이 차분식이 만드는 파동은 실제 파동과 조금 다르게 진행한다. 이산 분산 관계 $\sin(\omega\Delta t/2) = (S/n)\sin(\tilde k\Delta x/2)$에서 수치 파수 $\tilde k$는 $nk_0$보다 크고, 위상속도가 느려진다. 매질 속 파장당 셀 10개면 1~2%, 5개면 7% 늦다. 이 오차는 공진 구조에서 위상으로 쌓이므로 해상도와 계산량 사이에서 타협해야 한다. 계산 영역의 끝에는 반사 없이 빛을 삼키는 경계가 필요하다. 완전 정합층(Perfectly Matched Layer, PML)은 전기·자기 전도도를 $\sigma^*/\mu = \sigma/\varepsilon$로 맞춘 인공 흡수층이라, 계면에서 임피던스가 같아 반사가 없고 안으로 들어간 파동만 감쇠한다.

FDTD로 보는 픽셀 스택

이제 같은 방법을 픽셀 단면에 적용하자. 계산 영역은 베이어 배열의 한 행(G–R 또는 G–B 두 픽셀)이 한 주기다. 가로 방향은 주기 경계로 이어 무한히 반복되는 픽셀 배열을 흉내 내고, 위아래는 PML로 닫는다. 비스듬한 평면파는 이웃 주기와 위상이 $e^{ik_xL}$만큼 다르므로, 가로 경계에서 장에 이 위상을 곱해 넘겨준다(블로흐 주기 경계(Bloch periodic boundary)).

연속파 계산에는 쓸모 있는 기법이 하나 있다. 사인 광원과 코사인 광원을 각각 실수장으로 돌리고 둘을 복소장 $\psi = E_{\cos} + iE_{\sin}$으로 묶으면, 정상 상태에서 $\psi(t) = \tilde E\,e^{-i\omega t}$가 된다. 이 복소장의 크기 $|\psi|^2$가 곧 시간 평균 세기이므로 한 주기를 기다려 평균할 필요가 없고, 블로흐 경계의 복소 위상도 자연스럽게 처리된다. 계산량은 두 배다.

앞 시뮬레이터의 엔진을 평면 구조에서 TMM(4절)과 대조한 결과를 표에 모았다. 해상도 8에서 반사율이 0.02~0.04 정도 차이 나고, 해상도를 올리면 TMM 값에 수렴한다. 실제 설계용 FDTD는 셀을 더 잘게(파장당 20~30개) 나누고 3-D로 계산하므로 몇 시간짜리 계산이 된다. 브라우저에서는 몇 초 안에 끝나도록 2-D, 단색, 저해상도로 타협했다.

박막 간섭과 전달 행렬법

가로로 균일한 층이 쌓인 구조라면 맥스웰 방정식은 층마다 위·아래로 진행하는 평면파 두 개로 풀린다. 각 층 경계에서 접선 성분 E와 H가 연속이라는 조건을 2×2 행렬로 쓰고 층 수만큼 곱하면 스택 전체의 반사·투과가 나온다. 이것이 전달 행렬법(Transfer-Matrix Method, TMM)이다. 2장의 단층 ARC 공식은 이 행렬 하나의 특수한 경우다.

계산 예: 2장의 단층 ARC(공기 / Si₃N₄ n = 2.0, 68.75 nm / Si)를 이 엔진에 넣으면 400~1000 nm 전 구간에서 2장의 해석식과 소수점 아래 15자리까지 같다. 실제 BSI 픽셀의 ARC는 공기가 아니라 CF·평탄화층(n ≈ 1.5~1.6) 아래에 놓인다. 이때 이상적인 단층 굴절률은 $\sqrt{1.6 \times 4.08} \approx 2.55$로 올라가 HfO₂(≈1.95)나 Ta₂O₅(≈2.1)만으로는 모자라고, 그래서 고굴절 막 두세 장을 쌓아 넓은 대역에서 반사를 몇 % 아래로 누른다.

얇은 BSI 실리콘의 파브리–페로 공진

BSI 실리콘은 3~6 µm로 얇고, 그 위아래가 모두 계면이다. 위는 ARC, 아래는 산화막과 배선 금속이다. 흡수 깊이가 실리콘 두께보다 긴 적색·NIR 빛은 아래 면에서 반사되어 되돌아오고, 위아래를 오가는 빛이 간섭해 실리콘 층은 손실 있는 파브리–페로 공진기(Fabry–Pérot resonator)가 된다. 8장에서 "에탈로닝"이라 부른 QE 잔물결의 정체다.

도파관으로서의 픽셀

FDTI로 둘러싸인 실리콘 기둥은 굴절률 4 안팎의 코어를 1.46짜리 산화막이 감싼 구조, 즉 광섬유와 같은 도파로다. 3장에서는 이것을 "벽에서의 전반사"로 설명했다. 파동 그림에서는 기둥 안에 허용되는 도파 모드(guided mode)가 몇 개뿐이고, 빛은 그 모드들의 합으로 내려간다. 단면을 2-D 평판 도파로(폭 $w$)로 보면 대칭 TE 모드의 조건은

계산 예: 0.6 µm 폭 실리콘 코어(550 nm, n = 4.08)는 $V$ = (π × 0.6/0.55) × √(4.08² − 1.46²) ≈ 13.1이라 TE 모드가 9개다. 0.4 µm 코어를 940 nm로 보면 $V$ ≈ 4.4, 모드 3개로 줄어든다. 모드가 적을수록 빛은 "광선 다발"보다 "정해진 모양의 파동"으로 내려가며, 모드의 에바네센트 꼬리가 DTI 산화막 속으로 길게 뻗는다. 두 픽셀 사이 DTI가 얇으면 결합이 생긴다. 결합 길이는 모드마다 크게 다르다. 기본 모드는 100 µm가 넘어 사실상 결합하지 않지만, 임계각에 가까운 최고차 모드는 실리콘 두께(수 µm)보다 짧은 거리에서 이웃으로 넘어간다. 크로스토크는 대부분 이 고차 모드가 실어 나른다.

광 포획: 피라미드, 격자, 그리고 4n² 한계

NIR(850·940 nm)에서 실리콘의 흡수 깊이는 18~55 µm인데, 모바일 BSI 실리콘은 3~6 µm다. 2장의 계산처럼 3 µm 실리콘은 940 nm 빛을 한 번 지나며 5%만 흡수한다. 두께를 늘릴 수 없다면 빛의 경로를 늘려야 한다. 실리콘 표면에 역피라미드(inverted pyramid) 텍스처나 회절 격자를 새겨 빛을 비스듬히 꺾으면, 실리콘 안에서 임계각보다 비스듬해진 빛이 위아래 면에서 전반사되어 여러 번 오간다. 태양전지가 오래 써 온 방법이고, NIR 강화 이미지 센서도 같은 원리를 쓴다.

Yablonovitch(1982)는 표면이 빛을 완전히 무작위화하고 뒷면이 완벽한 반사판일 때, 흡수가 약한 극한에서 경로가 최대 $4n^2 d$까지 늘어난다는 것을 보였다(람베르트 한계(Lambertian, 4n² limit)). 실리콘 NIR(n ≈ 3.6)에서 $4n^2$ ≈ 52배다.

계산 예: 940 nm, 3 µm, 뒷면 반사율 1. 단일 통과 흡수 $1-e^{-\alpha d}$ = 5.2%, 평탄면+반사판(이중 통과) 10.2%, 람베르트 앞면이면 73.8%다. 그러나 그 빛은 실리콘 안에서 수십 µm를 옆으로 돌아다닌다. 1 µm 픽셀이라면 DTI가 없을 때 흡수된 빛의 2%만 자기 픽셀에 남는다. 광 포획은 반드시 DTI와 함께 써야 하고, DTI 벽의 반사율이 곧 크로스토크를 정한다.

실제 피라미드나 격자는 완전한 람베르트 산란이 아니라서 4n²에 못 미친다. 격자는 빛을 몇 개의 정해진 각도(회절 차수)로만 보낸다. 실리콘 표면(위는 산화막)에 새긴 주기 Λ의 격자에 수직으로 들어온 빛은

금속 그리드, 서브파장 구조, 구조색 필터

CF 사이의 금속 그리드(W, Al)는 비스듬한 빛이 이웃 CF로 넘어가는 것을 막는다(3절 FDTD의 "+그리드·DTI"). 폭이 50~100 nm인 그리드 사이 틈은 파장보다 좁은 슬릿이라, 빛은 그리드를 "그림자"로 피해 가는 것이 아니라 회절하며 통과하고 금속 벽면에서 일부를 잃는다. 금속 대신 굴절률이 낮은 산화막이나 공기 틈을 벽으로 쓰면 CF가 도파 코어가 되어 손실 없이 빛을 가둔다(저굴절 그리드, "광 도파 그리드").

패턴의 주기가 파장보다 충분히 작으면 빛은 개별 구조를 보지 못하고 평균된 매질을 본다. 이것이 유효 매질 이론이다. 충전율 $f$인 1-D 격자에서 두 편광의 유효 유전율은 다르다(형태 복굴절).

엄밀한 계산에는 RCWA(Rigorous Coupled-Wave Analysis, 엄밀 결합파 해석)를 쓴다. 격자층의 유전율을 푸리에 급수로 펼치면 층 안의 장은 행렬 고윳값 문제의 고유 모드 합이 되고, 위아래 경계 조건을 연립하면 각 회절 차수의 반사·투과 진폭이 나온다. 가로 주기 구조에서는 FDTD보다 훨씬 빠르고 정확해서, 격자·메타표면 설계의 표준 도구다.

컬러 라우터와 메타표면

흡수형 컬러 필터는 원하지 않는 색을 열로 버린다. 백색광이 고르게 들어온다면 베이어 배열의 R 픽셀은 적색 성분만, B 픽셀은 청색 성분만 쓰므로, 전체 빛 가운데 각 픽셀이 쓰는 몫은 평균 1/3을 넘을 수 없다. 12장에서 소개한 컬러 라우터(color router)는 이 상한을 깬다. 픽셀 위에 파장보다 작은 구조를 깔아, 녹색 픽셀 위에 떨어진 적색광은 옆 R 픽셀로, 청색광은 B 픽셀로 꺾어 보낸다. 이상적인 라우터는 버리는 빛 없이 100%를 쓴다.

라우터를 만드는 도구가 메타표면(metasurface)이다. 높이가 같고 폭이 다른 TiO₂·SiN 나노 기둥을 배열하면, 각 기둥은 짧은 도파로처럼 동작해 유효 굴절률 $n_\text{eff}(w)$에 비례하는 위상 $\phi = 2\pi n_\text{eff}(w)h/\lambda$를 빛에 준다. 기둥 폭의 분포로 원하는 위상 지도를 그리면 렌즈(메타렌즈), 프리즘, 색 분리기를 평면 한 장으로 만들 수 있다.

원하는 위상 지도가 색마다 달라야 하므로 손으로 그리기는 어렵다. 그래서 목표(색별 픽셀 도달률)를 정하고 구조를 자동으로 최적화하는 역설계(inverse design)를 쓴다. 수반(adjoint) 방법은 FDTD 두 번(정방향·수반)으로 모든 설계 변수에 대한 기울기를 한꺼번에 얻고, 직접 이진 탐색(DBS)은 설계 셀을 하나씩 바꿔 보며 좋아지면 남긴다. 아래 시뮬레이터는 2×2 베이어 주기를 2-D 각 스펙트럼법으로 전파하는 스칼라 모형에 DBS를 붙였다.

3절 FDTD의 "라우터 단면" 프리셋은 같은 생각을 엄밀한 전자기 계산으로 확인한다. 두 픽셀(G·R) 주기 위 1.0 µm 산화막 간격 위에 높이 0.8 µm의 Si₃N₄ 기둥 16칸 이진 패턴을 놓고, 540 nm는 G 픽셀로, 620 nm는 R 픽셀로 가도록 FDTD 자체로 DBS를 돌려 찾은 구조다(CF 없음). 평판일 때 두 픽셀이 같은 양(자기 면적 대비 약 0.76)을 흡수하던 540 nm 빛이, 라우터 아래에서는 G 픽셀 1.09 대 R 픽셀 0.53으로 갈린다. G 픽셀이 제 면적보다 넓은 영역의 녹색을 모은 것이다. 620 nm에서는 거꾸로 R 픽셀 0.90, G 픽셀 0.42다.

제조 공차, 각도 응답, 최신 동향

파동 광학 구조는 공진과 간섭에 기대므로 치수 오차에 민감하다. 공차는 주로 다음에서 나온다.

• 막 두께: ARC 다층의 ±5% 두께 오차는 가시 평균 반사를 몇 %p 바꾼다(4절 시뮬레이터에서 직접 확인). BSI 실리콘의 수십 nm 두께 편차는 NIR 단색광에서 프린징 무늬를 만든다(5절).
• 패턴 폭(CD)과 높이: 나노 기둥의 폭이 10 nm 달라지면 국소 위상이 수십 도 바뀐다. 9절의 스칼라 라우터에서 높이 오차 ±10%는 효율을 0.65에서 0.63으로, ±20%는 0.58로 낮춘다. 모든 셀이 같은 비율로 틀리는 오차는 위상 지도의 모양을 지키므로 비교적 너그럽고, 셀마다 다른 무작위 CD 오차가 더 해롭다.
• 정렬(오버레이): 라우터·렌즈와 아래 픽셀의 어긋남은 그대로 색 혼합이 된다. 픽셀이 0.6 µm면 20 nm 어긋남도 3%다.
• 각도: 센서 가장자리의 CRA(30° 이상)와 렌즈 원뿔(F/1.8에서 ±15°)이 겹친다. 같은 라우터의 효율은 5°에서 0.53, 10°에서 0.43, 20°에서 0.31로 흡수형 CF(0.33) 아래까지 떨어진다. 마이크로렌즈·CF·라우터를 광축 쪽으로 밀어 배치하는 시프트(5장)를 위치마다 다르게 설계한다.

상용화 현황 (2026년 기준)

메타표면이 처음 대량 생산된 곳은 이미지 센서가 아니라 ToF 근접·거리 센서 모듈의 광학계다. 2022년 STMicroelectronics의 다중 영역 dToF 센서가 Metalenz의 메타표면 렌즈를 채택해 양산에 들어갔다. 이미지 센서 픽셀에서는 삼성전자가 2025년 양산한 ISOCELL JNP(50 MP, 0.64 µm 픽셀, 1/2.76″)가 첫 사례다. 유기 마이크로렌즈 자리에 다층 나노 기둥 구조 '나노프리즘'을 넣어 빛을 색별로 이웃 픽셀에 나누고, CF는 그대로 둔다. 삼성은 같은 사양의 이전 제품(JN5) 대비 감도가 약 25% 높다고 밝혔다(자사 측정). 흡수형 CF의 상한 1/3과 이상적 라우터의 1 사이에서 실제 이득은 아직 수십 % 수준이며, 각도 허용 범위와 공정 비용이 확산의 관건이다.