[포스텍·인하대·삼성전자 공동연구팀, 반도체공정 CVD 균일증착 계산AI 모델 개발]

국내 연구진이 대규모 학습 데이터 없이도 반도체 웨이퍼 표면의 물질 증착 불균일도를 정밀하게 예측할 수 있는 혁신적인 인공지능 기술을 개발했다.

인하대학교는 기계공학과 이상승 교수 연구팀이 포항공과대학교 유동현 교수팀, 삼성전자 반도체연구소와 공동으로 반도체 웨이퍼 표면의 증착 불균일도를 소량의 데이터만으로 예측할 수 있는 인공지능(AI) 모델을 개발했다고 밝혔다.

반도체 제조 공정의 핵심 중 하나인 화학기상증착(CVD) 공정에서는 웨이퍼 표면에 물질이 얼마나 균일하게 형성되느냐가 제품의 전반적인 성능과 수율(제품 완성률)을 결정짓는 절대적인 요소다. 공정 미세화가 급격히 진행됨에 따라 미세한 두께 불균일도조차 치명적인 불량으로 이어질 수 있기 때문이다.

기존 제조업계에서는 이를 예측하기 위해 전산유체역학(CFD) 기반의 시뮬레이션을 주로 활용해왔다. 전산유체역학 방식은 물리적 정확도가 높은 반면, 복잡한 유체 흐름과 화학 반응을 계산하는 데 막대한 시간과 비용이 소요되어 실시간으로 변하는 공정을 즉각적으로 최적화하는 데 한계가 있었다.

이를 보완하기 위해 대안으로 제시된 데이터 기반의 딥러닝 모델 역시 반도체 산업의 특수성이라는 장벽에 부딪혔다. 반도체 공정은 보안성이 높고 공정 비용이 막대해 대규모의 정제된 학습 데이터를 확보하기가 극히 어렵다.

데이터가 부족한 환경에서 일반적인 딥러닝 모델을 구동할 경우, 예측 정확도가 급격히 떨어지거나 물리적으로 불가능한 비현실적인 예측 결과를 도출하는 치명적인 문제가 지속적으로 지적되어 왔다.

공동 연구팀은 이러한 데이터 공백과 물리적 비현실성 문제를 해결하기 위해 광학 분야에서 렌즈나 거울 등의 표면 변형 패턴을 분석할 때 쓰이는 ‘체르니케(Zernike) 함수’를 AI 모델에 전격 도입했다.

연구팀이 개발한 ‘소프트-체르니케 신경망(Soft-Zernike Neural Network, SZNN)’은 물리적 기반 정보와 데이터 기반의 딥러닝을 유기적으로 결합한 하이브리드 구조다.

SZNN 모델은 수학적 정량성이 검증된 체르니케 기반 모델이 먼저 웨이퍼 표면의 전체적인 거시적 형태를 견고하게 예측하도록 유도한다. 이후 딥러닝 모델이 결합되어 미세하고 정교한 세부 두께 패턴을 보완하는 단계를 거친다.

특히 기존의 단순 데이터 추종형 딥러닝 방식과 달리, 수리물리학적 특성을 모델 자체에 내재화함으로써 최신 생성형 AI 모델들과도 유연하게 결합할 수 있는 확장성을 확보했다. 덕분에 실험 데이터가 극도로 제한된 환경에서도 왜곡 없는 안정적이고 정확한 예측 성능을 발휘하는 것이 특징이다.

실제 검증 실험 결과, 연구팀이 선보인 SZNN 모델은 기존 가용 신경망 모델들과 비교해 예측 정확도와 학습 안정성 측면 모두에서 압도적인 향상을 나타냈다.

무엇보다 학습 데이터의 양을 극단적으로 줄인 환경에서 성능 개선 효과가 가장 두드러지게 나타났으며, 새로운 공정 조건에 대응하기 위한 추가 학습 시간이 수 초 수준에 불과해 현장 적용 시 계산 비용에 대한 부담을 완벽하게 해소했다.

이와 함께 연구팀은 가스 유량 변화나 배출구 위치 등 세부적인 공정 제어 조건이 웨이퍼 표면 형상에 미치는 영향을 직관적으로 파악할 수 있는 ‘공정-체르니케 스티어링 맵’을 함께 제시했다. 이 맵을 통해 입력된 공정 변수와 웨이퍼 표면 변형 간의 유기적 인과관계가 물리적으로 타당함을 검증해냄으로써 AI 모델의 고질적인 문제인 ‘블랙박스(인과관계 불명확)’ 현상까지 해결했다.

이상승 인하대 기계공학과 교수는 “이번 연구는 물리 기반 정보를 AI에 함께 적용해 적은 데이터 환경에서도 안정적이고 신뢰도 높은 예측이 가능하도록 한 사례”라며 “반도체 공정 최적화와 생산 효율 향상에 도움이 될 것으로 기대한다”고 말했다.

한편, 이번 연구 성과는 인공지능 분야 국제학술지 ‘Engineering Applications of Artificial Intelligence(EAAI)’에 최근 게재됐으며, 삼성전자와 한국에너지기술평가원(KETEP), 환경부의 지원을 받아 수행됐다.