아이피렉스 AI 특허 인사이트

Adobe AI 특허 쉽게 읽기: 원본과 생성 후보를 레이어로 보존하는 이미지 편집 원리

아이피렉스 특허법률사무소 — Mon, 12 Oct 2026 16:23:49 +0900

AI로 제품 사진에 소품을 더한 뒤, 원본과 다른 후보를 살려 다시 편집하려면 결과를 저장하는 방식도 중요합니다. Adobe의 미국 특허 US12462456B2는 원본 이미지와 생성 결과를 서로 다른 레이어로 관리하고, 마스크와 생성에 사용한 정보를 함께 보존하는 이미지 편집 기술을 설명합니다. 컵 제품 사진에 꽃병을 더하는 가상 사례로 입력 마스크와 대상 마스크의 차이, 후보 교체와 후속 편집의 원리를 쉽게 살펴보겠습니다.

원본 이미지, 선택 영역과 생성 레이어의 관계를 설명하기 위해 직접 제작한 개념 이미지입니다.

목차 · 궁금한 부분부터 읽어 보세요

사진 한 장보다 다시 고칠 수 있는 작업이 필요한 이유
레이어와 마스크를 쉬운 말로 이해하기
선택 영역과 문장으로 생성할 내용을 전달하기
생성 뒤 객체를 찾는 대상 마스크의 역할
생성 레이어에 후보와 입력 정보를 함께 보관하기
컵 사진의 가상 편집과 Photoshop Generative Fill
AI 편집 서비스를 설계할 때 생각할 데이터 구조

1. 사진 한 장보다 다시 고칠 수 있는 작업이 필요한 이유

온라인 쇼핑몰에서 컵 제품 사진을 준비하는 상황을 생각해 보겠습니다. 테이블 위에 컵만 놓인 사진에 작은 꽃병을 더하면 계절 분위기를 낼 수 있습니다. AI가 그럴듯한 꽃병을 만들어 주었더라도 작업은 여기서 끝나지 않습니다. 담당자가 “꽃병을 조금 작게 해 주세요”라고 요청하거나, 다른 소품으로 바꾼 안을 다시 보고 싶어 할 수 있기 때문입니다.

완성 사진만 남아 있으면 어느 부분을 새로 만들었는지, 어떤 문장을 입력했는지, 다른 후보는 무엇이었는지 다시 찾아야 합니다. 여러 요소를 한 장으로 합친 이미지에는 개별 편집 정보가 남지 않을 수 있습니다. 화면에 보이는 결과와 나중에 고칠 수 있는 작업 자료는 서로 다른 역할을 합니다.

이 특허의 중심 아이디어는 생성 결과를 원본과 곧바로 합쳐 버리지 않고, 다시 편집할 수 있는 별도 구성으로 다루는 것입니다. 결과 이미지뿐 아니라 선택 영역과 입력 문장, 여러 후보 등을 생성 레이어에 보관합니다. 생성 모델이 무엇을 만드는가에 더해 편집기가 무엇을 기억하고 다시 보여 주는가를 함께 설계하는 방식입니다.

2. 레이어와 마스크를 쉬운 말로 이해하기

레이어는 한 장의 화면을 이루는 요소를 나누어 관리하는 층입니다. 투명한 종이에 각각 다른 그림을 그려 겹쳐 놓는 모습을 떠올리시면 쉽습니다. 아래에는 컵의 원본 사진을 두고, 위에는 새로 생성한 꽃병이 보이는 이미지를 둡니다. 편집기는 이 층들을 조합해 한 장처럼 보여 주면서도, 각 층의 내용은 따로 관리할 수 있습니다.

마스크는 이미지에서 어느 구역을 처리하거나 보여 줄지 나타내는 지도입니다. 처음에는 사용자가 꽃병을 넣을 테이블의 빈 공간을 선택합니다. 그 선택에 대응하는 입력 마스크는 이미지 생성에 전달됩니다. 이후에는 생성 결과 안에서 꽃병이라는 객체를 찾아 그 영역을 나타내는 대상 마스크를 만들 수 있습니다. 둘 다 영역을 나타내지만 만들어지는 시점과 목적이 다릅니다.

이 특허에서 이미지 생성 네트워크는 새 이미지를 만들고, 다층 문서 편집기는 원본과 생성 레이어를 관리합니다. 편집기에는 전체 레이어를 관리하는 부분, 생성 레이어의 정보를 보여 주는 부분, 객체를 찾는 부분과 작업 표시줄이 포함됩니다. 모델과 화면, 저장 기능이 함께 움직여야 다시 고칠 수 있는 편집 흐름이 만들어집니다.

3. 선택 영역과 문장으로 생성할 내용을 전달하기

사용자는 먼저 원본 이미지에서 원하는 구역을 선택합니다. 컵 바로 옆의 빈 테이블을 넉넉하게 둘러싼다고 생각해 보세요. 이 선택은 “어디에 만들 것인가”를 알려 줍니다. 이어 “작은 흰색 꽃병과 노란 꽃”처럼 생성할 내용을 문장으로 적으면 “무엇을 만들 것인가”도 전달할 수 있습니다. 이러한 입력 문장을 프롬프트라고 합니다.

이미지 생성 네트워크는 원본 이미지, 선택 영역에 대응하는 입력 마스크와 프롬프트를 바탕으로 새 이미지를 생성합니다. 원본은 주변의 테이블과 컵 같은 맥락을 제공하고, 마스크는 작업 구역을, 문장은 원하는 내용을 전달합니다. 문장이 같더라도 작업 구역과 주변 이미지가 달라지면 고려할 맥락도 달라집니다.

편집 화면에서는 선택에 맞추어 입력란과 생성 버튼을 보여 줄 수 있습니다. 특허에는 문장을 입력하지 않고 주변 이미지와 선택을 이용해 생성하는 예도 있습니다. 여기서 중요한 점은 사용자의 입력과 모델 실행을 연결하는 화면 동작입니다. 선택한 구역을 확인하고, 생성 명령을 보내고, 결과를 다시 고르는 흐름이 하나의 편집 과정으로 이어집니다.

4. 생성 뒤 객체를 찾는 대상 마스크의 역할

빈 테이블을 선택한 입력 마스크가 넓은 사각형이었다고 해도, 생성된 꽃병은 그 안의 일부만 차지할 수 있습니다. 선택했던 빈 공간 전체와 꽃병의 윤곽은 같지 않습니다. 이후 꽃병만 옮기거나 그 객체를 중심으로 다시 생성하려면, 결과에서 꽃병이 있는 구역을 찾는 과정이 필요해집니다.

특허의 객체 검출 구성은 이미 생성된 이미지 안에서 객체를 찾고, 그 객체에 대한 대상 마스크를 만듭니다. 객체 검출은 이미지 속에서 찾으려는 대상을 식별하는 처리입니다. 대상 마스크는 생성 레이어에 포함되고, 후속 생성에 사용될 수 있습니다. 사용자의 처음 선택을 그대로 재사용하는 흐름과 구별되는 부분입니다.

따라서 입력 마스크는 생성 전에 사용자가 지정한 작업 구역이고, 대상 마스크는 생성 후 객체를 찾아 얻은 구역입니다. 가상 사례에서는 앞의 마스크가 테이블의 빈 공간을, 뒤의 마스크가 새 꽃병을 나타냅니다. 이 구분을 유지하면 사용자가 어디를 요청했는지와 시스템이 어떤 대상을 찾아 편집하는지를 각각 설명할 수 있습니다.

5. 생성 레이어에 후보와 입력 정보를 함께 보관하기

생성 결과가 나왔을 때 편집기는 원본을 포함한 첫 번째 레이어와 생성 이미지 및 대상 마스크를 포함한 두 번째 레이어를 보여 줍니다. 이 구조에서는 원본 자료와 새로 만든 내용을 구분해 관리하고, 화면에는 두 층을 조합한 모습을 표시할 수 있습니다. 원본을 보존한다는 말은 원본 층을 따로 남긴다는 뜻이며, 화면에 보이는 합성 결과가 원본과 같다는 뜻은 아닙니다.

생성 레이어에는 결과 이미지와 프롬프트, 입력 마스크를 속성으로 저장하는 구성이 설명됩니다. 또 다른 생성 결과를 같은 레이어에 보관해 후보를 오갈 수 있습니다. 사용자는 작은 꽃병, 둥근 꽃병, 길쭉한 꽃병 가운데 원하는 안을 고르고, 다른 후보를 필요할 때 다시 살펴볼 수 있습니다.

원문에는 생성에 사용하는 시작값인 시드, 모델 정보와 생성 시각 등도 보관 가능한 정보로 설명됩니다. 시드는 생성 과정의 출발 조건을 정하는 값입니다. 이런 자료가 남으면 이전 작업의 맥락을 이해하고 다시 편집하는 데 도움이 됩니다. 같은 숫자를 기록하는 일과, 모델이나 실행 환경까지 포함해 결과를 재현하는 일은 각각 설계할 과제입니다.

편집 중에는 생성 결과의 위치를 바꾸고 새로운 위치에 맞추어 다시 생성하는 흐름도 가능합니다. 단순히 이미지를 옮기는 것과 새 위치의 주변 맥락을 반영해 다시 만드는 것은 다른 동작입니다. 생성 레이어는 이처럼 결과를 보여 주는 층이면서, 다음 편집에 필요한 정보를 묶어 두는 작업 단위가 됩니다.

6. 컵 사진의 가상 편집과 Photoshop Generative Fill

다시 컵 사진의 가상 사례로 돌아가 보겠습니다. 담당자는 원본을 첫 레이어에 두고 테이블의 빈 구역을 선택한 뒤, “작은 흰색 꽃병”이라고 입력합니다. 생성 결과 몇 가지 중 한 안을 선택하면, 그 결과와 꽃병의 대상 마스크를 별도 생성 레이어로 다루고 입력 정보와 후보도 함께 보관할 수 있습니다.

직접 제작한 가상 컵 사진 편집 예시입니다. 생성 전에 넓은 빈 공간을 선택하는 입력 마스크와, 생성 뒤 꽃병 객체를 나타내는 대상 마스크를 구별해 보여 줍니다. 원본 층과 생성 층, 후보와 입력 정보는 원리 설명을 위한 구성입니다.

다음 담당자가 꽃병을 바꾸고 싶다면 생성 레이어의 후보와 입력 문장을 확인하고 수정할 수 있습니다. 다른 후보를 선택하는 것은 이미 보관한 결과를 바꾸어 보여 주는 동작이고, 프롬프트를 고쳐 다시 생성하는 것은 모델을 새로 실행하는 동작입니다. 화면에서는 비슷한 수정으로 보이더라도 처리 과정과 필요한 정보가 다릅니다.

Photoshop의 Generative Fill은 선택한 이미지 구역을 문장으로 편집하는 기능입니다. Adobe의 공식 안내는 작업 구역을 선택하고, 원하는 내용을 입력하거나 입력란을 비운 채 생성한 뒤, 속성 패널에서 결과 변형을 고르는 사용 흐름을 설명합니다. Adobe는 생성 레이어를 이용하는 비파괴 편집도 안내합니다. 비파괴 편집은 원본을 직접 덮어쓰지 않고 수정 내용을 따로 관리하는 방식입니다.

실무에서는 후보를 확인한 후 레이어가 유지되는 작업 문서를 보관하고, 배포할 이미지는 별도로 내보내는 흐름을 생각할 수 있습니다. 작업 문서는 다시 수정할 자료이고, 내보낸 사진은 쇼핑몰이나 광고에 사용할 결과물입니다. 이 두 자료를 나누어 관리하면 협업자가 완성 사진만 보고 작업 과정을 다시 추정해야 하는 일을 줄일 수 있습니다.

7. AI 편집 서비스를 설계할 때 생각할 데이터 구조

AI 이미지 편집 서비스를 개발할 때에는 생성 모델의 출력 품질과 함께 수정할 수 있는 작업을 어떻게 저장할지를 생각해 보시면 좋습니다. 원본 이미지, 입력 마스크, 프롬프트, 생성 후보와 대상 마스크가 서로 어떤 관계인지 정리하면 화면 버튼이 실제로 무엇을 바꾸는지도 분명해집니다. 후보 교체와 재생성을 같은 기능으로 묶어 설명할 필요도 줄어듭니다.

예를 들어 후보를 바꾸었을 때 표시할 대상 마스크도 해당 후보와 맞아야 합니다. 작업 구역이나 지시 문장을 수정해 새 결과를 만들었다면 그 입력과 결과의 관계를 남겨야 합니다. 원본 층을 유지하는지, 생성 층을 새로 만드는지, 이전 후보를 보관하는지에 따라 사용자가 돌아갈 수 있는 지점도 달라집니다. 이런 연결을 화면과 데이터 구조에서 함께 설계하는 것이 중요합니다.

협업과 저장·불러오기 과정도 같은 관점으로 살펴볼 수 있습니다. 다른 사람이 문서를 열었을 때 어느 결과가 선택되었는지, 어떤 구역과 지시로 생성했는지 알 수 있어야 작업을 이어 갈 수 있습니다. 모든 클릭을 기록하는 일반적인 실행 이력과, 특정 생성 레이어에 입력과 결과를 묶어 두는 구조는 다른 목적을 가집니다.

이 기술을 읽는 관점은 AI가 멋진 사진을 한 번 만드는 데서 한 걸음 더 나아갑니다. 선택 → 생성 → 객체 구역 추출 → 레이어와 정보 보존 → 후속 편집을 연결하면 사용자가 수정할 수 있는 AI 서비스가 됩니다. 기업의 기술을 설명할 때도 “AI로 이미지를 편집합니다”라는 소개에 그치지 않고, 입력 영역과 생성 객체를 어떻게 구분하고 어떤 정보를 다음 작업으로 이어 주는지 구체적으로 정리해 보시기 바랍니다.

기술을 더 읽어 볼 공식 자료

USPTO · Adobe US12462456B2 특허 원문 — Non-destructive generative image editing
Adobe · Photoshop Generative Fill 공식 사용 안내
Adobe · 생성형 AI 기능과 생성 레이어 공식 FAQ

AI 기업의 기술을 구체적으로 정리해 보세요

아이피렉스 특허법률사무소는 AI 기업의 기술을 입력·처리 흐름·저장 구조·출력 예시로 정리하는 상담을 돕습니다. 이미지 생성 서비스라면 생성 전후 마스크, 후보 보관 방식과 재편집 흐름을 보여 주는 자료를 준비해 보세요.

김용덕 변리사 AI 전문성 확인하기
전화 02-556-1028 · 이메일 iplex@iplexlaw.co.kr

네이버 파파고 AI 특허 쉽게 읽기: 움직이는 화면에 번역문을 맞추는 원리

아이피렉스 특허법률사무소 — Thu, 8 Oct 2026 15:00:54 +0900

카메라로 본 외국어를 번역하는 동안 화면이 움직이면 번역문을 표시할 위치도 달라집니다. 네이버의 이 AI 특허는 읽기 좋은 화면을 골라 번역하고, 결과를 새 화면 위치에 맞추며 오래된 결과를 갱신하는 처리 흐름을 설명합니다. 가상의 전시 안내판에서 영문 제목을 번역하는 예시로 각 단계의 역할을 쉽게 살펴봅니다.

화면 선택과 번역문 위치 맞추기를 표현한 직접 제작 개념 그림입니다.

이 글에서 확인할 내용

번역이 끝나기 전에 화면이 움직이면 어떨까요?
동영상을 여러 장의 화면으로 나누는 이유
읽기 좋은 화면을 골라 글자를 번역합니다
번역문을 현재 화면의 위치로 옮기는 방법
화면 간격에 따라 다시 맞추거나 추적합니다
오래된 번역 결과를 새로 처리하는 순환
파파고와 AI 제품 설계를 함께 보는 관점

1. 번역이 끝나기 전에 화면이 움직이면 어떨까요?

해외 전시회에서 안내판을 읽으려고 휴대폰 카메라를 들었다고 생각해 보세요. 화면에는 영어 안내가 보이는데, 뜻을 확인하는 사이 손이 조금 움직입니다. 글자가 왼쪽으로 밀리거나 안내판의 기울기가 달라집니다. 번역문이 이전 위치에 그대로 남아 있다면 원래 어느 문장을 설명하는지 찾기 어려울 것입니다.

이 문제는 외국어를 한국어로 바꾸는 일만으로 해결되지 않습니다. 카메라가 본 화면에서 글자를 읽고, 번역을 준비한 뒤, 그 결과를 지금 보이는 화면의 알맞은 위치에 붙여야 합니다. 번역하는 동안 촬영이 계속된다면, 글자를 읽기 시작한 화면과 결과가 도착한 화면도 서로 다를 수 있습니다.

네이버는 파파고의 공식 소개에서 사진 속 글자를 번역하는 기능과 카메라 화면 속 글자를 보여 주는 AR 실시간 번역을 설명합니다. AR은 실제로 보는 화면 위에 정보를 겹쳐 보여 주는 방식입니다. 네이버의 미국 특허 US12197883B2를 통해, 이런 서비스를 설계할 때 마주치는 화면 선택과 표시 위치의 문제를 살펴보겠습니다.

2. 동영상을 여러 장의 화면으로 나누는 이유

동영상은 한 덩어리처럼 보이지만 여러 장의 화면이 이어진 것입니다. 그 한 장을 프레임이라고 부릅니다. 카메라가 안내판을 비추고 있다면 비슷한 안내판을 담은 프레임이 계속 들어옵니다. 손이 움직이거나 조명이 바뀌면 글자의 크기, 위치, 선명도도 조금씩 달라집니다.

여기서 살펴보는 기술은 최근 프레임을 버퍼에 잠시 모아둡니다. 버퍼는 데이터를 처리하는 동안 임시로 보관하는 공간입니다. 책상 위에 방금 찍은 사진 몇 장을 펼쳐 놓고 읽기 좋은 한 장을 고르는 모습으로 생각하시면 쉽습니다.

어떤 화면을 고를지는 미리 정한 기준으로 판단합니다. 글자가 충분히 밝고 선명한지, 필요한 문자가 화면에 들어 있는지, 글자의 윤곽이 읽을 만큼 뚜렷한지 등을 살필 수 있습니다. 막 들어온 화면을 곧바로 쓰는 것만이 아니라, 잠시 모아둔 화면 가운데 처리에 적합한 것을 선택하는 것입니다.

카메라가 잠깐 흔들려 흐린 화면이 들어와도 그 앞뒤에 읽기 쉬운 화면이 있을 수 있습니다. 개발팀에게는 화면을 얼마나 모을지, 어떤 기준으로 고를지, 새 화면을 언제 처리할지가 모두 설계 항목이 됩니다. 번역 모델의 성능과 함께 어떤 입력을 모델에 전달하느냐도 사용자 경험에 영향을 줍니다.

3. 읽기 좋은 화면을 골라 글자를 번역합니다

화면을 골랐다면 이미지에 있는 글자를 읽어야 합니다. OCR은 이미지 속 문자를 찾아 문자 정보로 바꾸는 기술입니다. 사람에게는 같은 영어 문장이라도 사진에서는 배경, 글자 모양, 빛의 반사와 함께 픽셀로 들어옵니다. 문자가 어디에 있고 어떤 글자인지 처리하는 과정이 필요합니다.

이 네이버 기술에는 신경망을 이용한 문자 인식이나 외부 이미지 번역 장치의 결과를 이용하는 방식이 설명되어 있습니다. OCR로 글자를 읽는 일과 읽은 문장을 다른 언어로 옮기는 일은 구분해서 이해하시면 됩니다. 문자 인식이 입력을 준비하고, 번역 과정이 다른 언어의 문장을 만드는 역할을 맡습니다.

번역한 문장을 화면 아무 곳에나 써 놓는 것으로 작업이 끝나지는 않습니다. 어떤 글자를 바꿔 보여 줄 것인지, 그 글자가 화면에서 차지하는 영역이 어디인지도 정해야 합니다. 글자의 윤곽과 주변 특징을 이용해 번역문이 들어갈 영역을 잡습니다. 안내판에서 제목과 행사 시간이 나란히 있다면, 번역 결과가 서로 섞이지 않도록 위치 관계가 필요합니다.

아래 FIG. 9는 전체 흐름을 한 번에 보여 줍니다. 여러 프레임 저장, 적합한 프레임 선택, 문장 번역, 번역 영역 결정, 다른 프레임에 표시하는 순서입니다. 글자를 읽은 화면을 그대로 멈춰 놓지 않고, 뒤에 들어온 화면에 결과를 옮긴다는 점이 다음 설명의 출발점입니다.

원문 FIG. 9(US12197883B2). 여러 화면을 저장한 뒤 한 화면을 골라 번역하고, 번역 영역을 다른 화면에 표시하는 처리 흐름입니다.

4. 번역문을 현재 화면의 위치로 옮기는 방법

처음에 안내판이 화면 중앙에 있었더라도 휴대폰을 옆으로 움직이면 새 화면에서는 오른쪽에 보일 수 있습니다. 정면에서 보던 네모가 기울어진 사각형처럼 보일 수도 있습니다. 번역문을 처음 좌표에 붙이면 원래 글자와 어긋납니다. 그래서 처음 화면의 영역이 새 화면의 어느 영역에 해당하는지 찾아야 합니다.

이를 위해 글자와 주변에서 다시 찾기 쉬운 기준을 이용합니다. 이런 기준을 특징점이라고 합니다. 모서리처럼 눈에 띄는 부분을 떠올리시면 됩니다. 첫 화면의 기준점과 새 화면의 기준점을 대응시키면, 대상이 어느 쪽으로 이동했고 어떤 모양으로 보이게 되었는지 계산할 수 있습니다.

기술 설명에는 호모그래피라는 변환도 나옵니다. 같은 평면에 있는 영역을 다른 시점의 화면에 맞추는 변환이라고 이해하시면 됩니다. 안내판의 네모난 번역 영역을 새 화면에서 보이는 기울어진 안내판 영역에 맞춰 옮기는 것입니다. 단순히 글자를 오른쪽으로 이동하는 것에 더해, 영역의 모양도 맞추는 데 쓰일 수 있습니다.

이렇게 계산한 영역에 번역문을 올리는 작업을 렌더링이라고 부릅니다. 여기서는 새 화면의 대상 위에 번역 결과를 합성해 보여 주는 일입니다. 번역 내용과 표시 위치를 별개의 처리로 보면, 결과를 준비하는 동안 카메라 영상이 바뀌어도 어느 화면에 어떻게 그릴지 설계할 수 있습니다.

5. 화면 간격에 따라 다시 맞추거나 추적합니다

같은 안내판을 다루더라도 거의 이어지는 두 화면과 시간이 더 지난 두 화면은 상황이 다릅니다. 짧은 사이에는 기준점이 조금 이동했을 수 있지만, 긴 사이에는 위치나 기울기가 더 많이 달라질 수 있습니다. 이 기술은 두 화면 사이의 시간 간격을 보고 위치를 맞추는 방법을 선택하는 방식을 설명합니다.

간격이 긴 경우에는 두 화면에서 특징점과 주변의 모양 정보를 각각 찾아 비슷한 것을 맞춥니다. 이를 특징 매칭이라고 합니다. 조금 전에 찍은 안내판 사진과 지금 사진을 나란히 놓고 같은 모서리나 무늬를 다시 찾는 것에 가깝습니다. 대응하는 점을 찾은 뒤 두 영역을 연결하는 변환을 구합니다.

간격이 짧은 경우에는 이미 찾은 기준점이 다음 화면에서 어디로 이동했는지 따라가는 특징 추적을 이용하는 예시가 나옵니다. 여기에 쓰이는 광학 흐름은 연속된 영상 사이에서 점의 움직임을 계산하는 방법입니다. 매번 대상을 처음부터 찾아 맞추는 일과, 가까운 다음 화면에서 이동 경로를 따라가는 일을 나눠 보는 것입니다.

가상의 전시 안내판에 ‘TODAY’S PROGRAM’이 적혀 있다고 생각해 보세요. 읽기 좋은 기준 화면에서 ‘오늘의 프로그램’이라는 번역을 준비합니다. 손이 옆으로 움직인 뒤에는 같은 안내판의 기준점이 이동한 자리를 찾아 번역 영역을 맞춥니다. 아래 설명 그림에서 기준점은 이해를 돕기 위해 단순하게 표시했습니다.

직접 제작한 가상의 전시 안내판 예시입니다. 영문 제목 TODAY’S PROGRAM을 ‘오늘의 프로그램’으로 바꾸고, 카메라 이동 후 같은 안내판의 새 위치에 맞추는 과정을 표현했습니다. 안내판의 나머지 문구는 한국어로 구성한 설명 그림입니다.

6. 오래된 번역 결과를 새로 처리하는 순환

준비된 번역문을 계속 재사용하기만 하면 다른 문제가 생길 수 있습니다. 카메라가 다음 안내판으로 넘어갔는데 앞 안내판의 번역문이 남거나, 대상이 크게 바뀌었는데 예전 위치 관계를 그대로 쓸 수도 있습니다. 그래서 표시를 이어 가는 과정에는 언제 새로 처리할지 판단하는 기준이 필요합니다.

FIG. 10은 시간을 기준으로 이 흐름을 보여 줍니다. 번역 결과를 다른 화면에 표시한 다음, 미리 정한 시간이 지났는지 판단합니다. 아직 지나지 않았다면 표시 영역을 유지하며 뒤에 이어지는 화면에 번역문을 보여 줍니다. 시간이 지났다면 새 프레임을 저장하고 고르는 단계로 돌아가 번역 과정을 다시 진행합니다.

원문의 다른 예시에서는 처음 화면과 새 화면 사이의 시간이 너무 길거나 움직임 차이가 큰 경우, 기존 결과를 표시하지 않고 새 과정을 시작할 수 있습니다. 이는 번역문이 준비되었다는 사실과 그 번역문을 현재 화면에 올려도 되는지를 따로 판단한다는 뜻입니다.

전시 안내판 예시에서도 같은 대상을 잠깐 비추는 동안의 표시와, 시간이 지난 뒤 새 화면을 처리하는 일을 나눠 생각할 수 있습니다. 오래된 결과를 갱신하는 기준은 문장의 번역 정확도를 판정하는 기능과도 다릅니다. 화면과 결과의 시점을 맞추기 위한 처리 규칙으로 이해하시면 됩니다.

원문 FIG. 10(US12197883B2). 정해진 시간이 지나면 새 화면 저장 단계로 돌아가고, 지나지 않았으면 표시 영역을 유지해 다음 화면에 번역문을 보여 줍니다.

7. 파파고와 AI 제품 설계를 함께 보는 관점

파파고의 공식 제품 소개는 사진 속 글자를 직접 입력하지 않고 번역하거나, 카메라 화면에서 실시간으로 번역 결과를 보는 사용 장면을 설명합니다. 네이버 클라우드의 Papago Image Translation 문서에는 이미지의 글자를 인식해 번역한 뒤 텍스트 결과나 번역문을 합성한 이미지로 제공하는 기능이 나옵니다. 사용자는 번역 결과를 읽지만, 서비스 설계에서는 입력 선택과 출력의 표시 방식까지 함께 다뤄야 합니다.

개발팀이라면 번역 모델만 바꿔 보는 것에 더해, 흐린 프레임을 입력으로 쓰는지, 번역 결과가 도착할 때 화면이 얼마나 달라졌는지, 표시 영역을 언제 다시 구하는지도 살펴볼 수 있습니다. 같은 문장을 잘 번역하더라도 잘못된 위치에 보이면 읽기 어렵고, 표시할 때마다 새 처리를 한다면 처리량을 함께 고려해야 합니다.

시험 장면도 나눠 준비하면 도움이 됩니다. 정지한 안내판, 천천히 이동하는 카메라, 기울어진 화면, 다른 안내판으로 전환하는 상황에서 글자와 번역문의 대응을 살펴보세요. 입력 화면과 결과가 표시된 화면, 선택한 기준, 갱신 시점을 함께 기록하면 어느 단계에서 문제가 생겼는지 설명하기 쉽습니다.

AI 제품의 차이는 모델 안에서만 생기지 않습니다. 무엇을 입력으로 고를지, 계산 결과를 어떤 화면에 연결할지, 언제 새 결과로 바꿀지도 기술의 중요한 구성입니다. 네이버의 이 사례는 ‘외국어를 한국어로 바꾼다’는 기능을 넘어, 번역문을 현재의 화면에 맞춰 보여 주기 위해 처리 흐름을 어떻게 나누는지 살펴보게 해 줍니다.

원문과 공식 제품 자료

함께 읽으면 좋은 AI 특허 분석

AI 제품의 입력 선택, 처리 순서와 출력 방식을 정리해 특허 상담을 준비해 보세요.

김용덕 변리사 AI 전문성 확인하기

FlashAttention-2 논문 쉽게 읽기: 긴 글의 어텐션을 GPU에서 빠르게 계산하는 원리

아이피렉스 특허법률사무소 — Wed, 7 Oct 2026 17:47:25 +0900

FlashAttention-2는 AI가 글 속 정보의 관계를 계산하는 어텐션을 GPU에서 더 효율적으로 실행하는 방법입니다. 큰 중간표를 메모리에 저장하는 부담을 줄이고, 여러 계산 작업을 나누는 방식을 개선합니다. 긴 고객상담 기록을 처리하는 가상 예시로 원리와 실험 결과, 개발 현장에서 살펴볼 차이를 정리해 드립니다.

FlashAttention-2의 계산과 작업 분배를 설명하기 위한 자체 제작 개념 이미지

분석 대상: Tri Dao의 FlashAttention-2 · 2023년 7월 17일 제출된 arXiv v1

이 글에서 확인하실 내용

긴 글을 처리할 때 무엇이 부담일까요?
고객상담 메모로 이해하는 블록 계산
FlashAttention-2가 개선한 세 가지
약 2배라는 결과를 어떻게 읽을까요?
개발 현장에서 정리할 기술적 차이

1. 긴 글을 처리할 때 무엇이 부담일까요?

토큰은 AI가 글을 처리하기 위해 나눈 작은 단위입니다. 어텐션은 토큰 사이의 관계를 계산하고, 그 결과로 정보의 반영 비율을 정하는 과정입니다. 앞부분의 주문 정보와 뒤에 나온 변경 요청을 함께 이해하는 데 이런 계산이 쓰입니다.

일반적인 구현에서는 토큰 사이의 비교 점수와 반영 비율을 큰 표로 만들어 GPU 메모리에 저장합니다. 글이 길어지면 표도 빠르게 커지고, 계산 장치와 메모리 사이에서 값을 옮기는 부담이 늘어납니다. GPU는 많은 계산을 동시에 할 수 있지만, 필요한 값을 기다리는 시간이 길면 그 능력을 충분히 쓰기 어렵습니다.

2. 고객상담 메모로 이해해 보세요

“출고한 주문의 배송지를 바꿀 수 있나요?”라는 질문과 긴 상담 기록을 처리하는 상황을 가정해 보겠습니다. 담당자가 모든 메모 사이의 비교표를 큰 종이에 작성하기보다, 작은 작업 공간에서 메모 묶음별 계산을 하고 필요한 중간 요약값을 이어 갱신하는 모습을 떠올리시면 됩니다.

이해를 돕기 위한 가상 고객상담 예시입니다. 메모를 작은 계산 블록으로 나누고 중간 요약값을 갱신하는 모습을 나타냅니다. 실제 모델은 메모 문장에 표시한 사람의 판단 대신 숫자로 표현된 토큰을 계산합니다.

이런 블록 계산은 기존 FlashAttention에서 이어받은 원리입니다. 빠른 작업 공간에 입력의 일부를 가져와 계산하고, 큰 중간표 전체를 메모리에 남기지 않습니다. 블록마다 따로 얻은 비율을 그대로 더하면 전체 계산과 달라지므로, 앞선 요약값과 새 값을 함께 보정합니다. 이때 사용하는 소프트맥스는 점수를 전체 합이 1인 반영 비율로 바꾸는 계산입니다.

계산에 필요한 토큰 관계를 유지하면서 저장 방법과 처리 순서를 바꿉니다. 다만 컴퓨터의 숫자 표현과 연산 순서에 따른 작은 오차까지 없어진다는 뜻은 아닙니다. 공식 구현도 수치 허용오차 안에서 출력과 학습에 쓰는 기울기를 비교합니다.

3. FlashAttention-2가 개선한 세 가지

① 행렬곱 이외의 반복 계산을 줄입니다

행렬곱은 여러 숫자의 관계를 한꺼번에 계산하는 연산입니다. GPU에는 이를 빠르게 처리하는 전용 장치가 있습니다. FlashAttention-2는 비율을 보정하고 조건을 확인하는 등의 연산을 줄여, 행렬곱의 장점을 더 살립니다.

② 긴 입력도 여러 작업 단위로 나눕니다

여러 입력이나 여러 어텐션 헤드를 나누는 데 더해, 하나의 긴 입력도 토큰 위치 방향으로 나눠 병렬 처리합니다. 헤드는 서로 다른 관점의 관계 계산 단위라고 이해하시면 됩니다. 긴 입력 때문에 한 번에 처리할 입력 수가 적어져도 GPU의 여러 작업 단위가 함께 계산하도록 만드는 방식입니다.

③ 작업 그룹 사이의 중간값 교환을 줄입니다

순전파에서는 관계를 묻는 숫자 표현인 Q를 작업 그룹별로 나눕니다. 비교 대상인 K와 반영할 정보인 V는 함께 사용합니다. 각 그룹이 맡은 출력 부분을 계산하므로 중간값을 서로 모아 합치는 부담이 줄어듭니다. 자세한 설명은 저자가 작성한 Stanford CRFM 해설에서 보실 수 있습니다.

4. 약 2배라는 결과를 어떻게 읽을까요?

저자는 A100 80GB SXM4 GPU의 어텐션 연산 실험에서 기존 FlashAttention 대비 약 2배의 속도 개선을 보고했습니다. 입력 길이 512~약 1만 6천 토큰, 헤드 크기 64·128, 현재 토큰과 앞선 토큰만 보게 하는 인과 마스크 유무를 바꿔 비교했습니다. 전체 토큰 수는 논문 표기의 16k로 맞췄습니다.

한편 A100 80GB SXM4 8장으로 GPT 계열 모델을 학습한 별도 실험에서는 전체 학습 속도가 기존 FlashAttention 대비 최고 약 1.3배였습니다. 모델 크기 13억·27억 매개변수와 문맥 길이 약 2천·8천 토큰을 비교한 결과입니다. 어텐션만 빨라져도 모델의 다른 계산과 통신 시간은 함께 남기 때문입니다. 조건별 값은 논문 4절과 표 1에 나와 있습니다.

이 결과를 모든 GPU나 고객상담 서비스의 응답 속도로 그대로 옮기기는 어렵습니다. 또한 긴 입력의 관계 계산량 자체는 여전히 입력 길이의 제곱에 비례해 늘어납니다. 메모리를 효율적으로 쓴다는 사실만으로 더 긴 내용을 항상 정확하게 이해한다고 판단해서도 안 됩니다.

5. 개발 현장에서 정리할 기술적 차이

이 논문에서 배울 점은 모델 구조와 GPU 실행 방식을 함께 살펴보는 것입니다. 기업용 상담 AI를 개선한다면 동일한 모델·입력에서 GPU 종류, 입력 길이, 한 번에 처리하는 요청 수, 메모리 사용량, 실제 처리 시간을 함께 기록해 보세요. 긴 기록을 처음 읽는 단계와 답변을 한 토큰씩 이어 쓰는 단계도 나눠 측정해야 병목을 찾기 쉽습니다.

기술 자료에는 큰 중간표를 저장하던 방식이 어떻게 바뀌었는지, 작업을 어디에서 나눴는지, 중간값 교환이 얼마나 줄었는지를 흐름도와 비교 실험으로 정리하시면 좋습니다. 아이피렉스는 이런 구체적인 구성과 효과를 바탕으로 AI 기술의 차이를 검토합니다.

원문과 함께 읽으면 좋은 글

AI 기술의 차이를 구체적으로 정리해 드립니다

아이피렉스의 AI 분야 프로젝트와 관련 저서, 상담 안내를 확인해 보세요.

김용덕 변리사 AI 전문성 확인하기

바이두 AI 특허 쉽게 읽기: 모델 답변과 검색 지식이 충돌할 때 RAG가 처리하는 방법

아이피렉스 특허법률사무소 — Tue, 6 Oct 2026 15:00:00 +0900

초기 답변과 검색 문서를 비교하고, 답변과 검색을 다시 수행해 재비교하는 흐름을 표현한 개념 이미지입니다.

사내 문서를 검색하는 AI라도 모델이 만든 답변과 문서 내용이 서로 다르면 바로 답을 정하기 어렵습니다. 바이두의 미국 특허 US20260087055A1은 초기 답변과 검색 결과의 지식 충돌을 분류하고, 충돌 유형에 따라 최종 답변을 만드는 방법을 설명합니다. 가상의 출장 정산 문의로 이 기술을 살펴보고, 바이두 Qianfan의 지식검색과 RAG 기능을 업무 관점에서 쉽게 풀어 드리겠습니다.

목차 · 궁금한 부분부터 읽어 보세요

사내 문서를 찾았는데 답변은 왜 다를까요?
RAG와 모델 내부 지식, 검색 지식의 뜻
답변·응답 논리·문맥 지식을 함께 준비하기
사실 충돌과 의미 충돌을 나누는 방법
다시 생성하고 검색하며 답변을 다듬는 흐름
Qianfan의 지식검색과 업무용 RAG 이해하기
개발팀이 살펴볼 검색과 답변 처리의 연결

1. 사내 문서를 찾았는데 답변은 왜 다를까요?

직원이 사내 AI에 “출장 경비는 언제까지 정산해야 하나요?”라고 묻는 상황을 떠올려 보세요. 모델은 익숙한 업무 표현을 이용해 “매월 말까지 제출하시면 됩니다”라고 답할 수 있습니다. 그런데 회사의 출장 지침을 검색했더니 “출장 종료 후 7일 안에 제출한다”는 문장이 나온다면 어떻게 답해야 할까요? 이 글의 기간과 규정은 기술을 설명하기 위한 가상 예시입니다.

검색 결과를 답변 옆에 붙여 놓는 것만으로 문제가 해결되지는 않습니다. 모델이 처음 만든 안내와 검색 문서가 다른데도 두 내용을 섞으면, 직원에게 서로 다른 마감일을 알려 줄 수 있습니다. 숫자가 다른 것인지, 문장에서 담당자와 대상의 관계를 잘못 이해한 것인지에 따라 처리 방법도 달라집니다.

바이두의 미국 특허 US20260087055A1은 바로 이 지점에 초점을 둡니다. 먼저 모델의 결과와 검색한 결과를 준비하고, 두 결과 사이의 충돌이 어떤 종류인지 판단한 뒤 최종 답변을 만듭니다. 큰 모델이 더 많은 지식을 알고 있는가에 더해, 서로 다른 지식을 만났을 때 어떻게 처리하는가를 살펴보는 기술입니다.

2. RAG와 모델 내부 지식, 검색 지식의 뜻

LLM은 많은 문장으로 학습한 대규모 언어 모델입니다. 학습한 정보와 표현 방식은 모델의 계산에 쓰이는 숫자인 파라미터에 반영됩니다. 이처럼 학습을 통해 모델 안에 반영된 지식을 이 글에서는 모델 내부 지식이라고 부르겠습니다. 사내 지침의 현재 문장을 그대로 저장해 찾아오는 문서함과는 성격이 다릅니다.

외부 지식은 답변을 만들 때 문서나 데이터베이스에서 검색해 가져오는 정보입니다. 회사의 출장 지침, 제품 설명서, 업무 매뉴얼 같은 자료를 생각하시면 됩니다. 지식검색은 질문과 관련된 자료를 찾는 과정이고, 지식베이스는 그 자료를 검색할 수 있도록 모아 둔 저장소입니다.

RAG는 Retrieval-Augmented Generation의 약자로, 한국어로는 검색 증강 생성이라고 합니다. 질문에 관련된 자료를 검색하고, 그 내용을 모델의 답변 생성에 활용하는 방식입니다. 모델을 매번 다시 학습시키는 대신 필요한 자료를 답변 과정에 넣을 수 있습니다. 이때 모델이 익숙하게 생성한 내용과 검색 자료가 어긋나는 상황까지 처리할 흐름이 필요합니다.

3. 답변·응답 논리·문맥 지식을 함께 준비하기

이 특허의 첫 단계는 질문을 모델에 입력해 초기 결과를 준비하는 것입니다. 초기 결과에는 답변 문장만 들어 있지 않습니다. 답변을 만들어 낸 응답 논리와, 답변을 만들 때 사용한 문맥 지식도 함께 포함됩니다. 결과를 세 부분으로 다루면 어느 내용이 검색 자료와 어긋나는지 살피는 입력을 구성할 수 있습니다.

가상 출장 예시에서는 “매월 말까지 제출한다”가 초기 답변입니다. “회사 비용은 월별로 처리하므로 월말에 정산한다”는 설명이 응답 논리의 예가 될 수 있고, 일반적인 월별 비용 처리에 대한 내용은 문맥 지식의 예가 될 수 있습니다. 여기서 응답 논리는 시스템이 얻은 설명용 결과를 뜻합니다. 모델 안의 모든 계산이나 실제 사고 과정을 그대로 보여 주는 정보라고 볼 필요는 없습니다.

원문 FIG. 1. 초기 답변·응답 논리·문맥 지식을 준비하고, 검색 결과와의 지식 충돌 유형을 판단해 최종 답변을 만드는 기본 흐름입니다.

이어 같은 질문으로 데이터베이스를 검색합니다. 검색 대상은 미리 만든 지식베이스뿐 아니라 문헌이나 웹 자료 등일 수 있으며, 여러 저장소를 이용할 수도 있습니다. 초기 결과와 검색 결과를 한쪽으로 합치기 전에 비교 대상으로 준비하는 점이 중요합니다. “모델이 무엇을 답했는가”와 “검색에서 무엇을 가져왔는가”를 나누어 놓는 것입니다.

4. 사실 충돌과 의미 충돌을 나누는 방법

사실 충돌은 날짜나 수치, 사건의 내용처럼 사실에 해당하는 정보가 서로 다른 경우입니다. 가상 정산 규정에서 “매월 말”과 “출장 종료 후 7일”은 마감 조건이 다릅니다. 반면 의미 충돌은 문장의 대상이나 관계를 잘못 해석한 경우입니다. “팀장이 직원의 정산을 승인한다”를 “직원이 팀장의 정산을 승인한다”로 바꾸면 단어가 비슷해도 역할의 관계가 달라집니다.

특허가 설명하는 방식 중 하나는 각 충돌 유형의 정의와 참고 예시를 모델에 함께 입력하는 것입니다. 초기 결과와 검색 결과만 보여 주는 대신, 어떤 차이를 사실 오류로 보고 어떤 차이를 의미 오류로 볼지 설명해 주는 구성입니다. 원문은 문법 오류 등 다른 충돌 유형도 예로 들지만, 여기서는 사실과 의미의 차이를 중심으로 읽어 보겠습니다.

원문 FIG. 2. 초기 결과와 검색 결과에 사실·의미 오류의 정의 및 참고 예시를 더해 모델이 충돌 유형을 판단하는 흐름입니다.

이렇게 충돌을 분류하는 모델과 초기 답변을 만드는 모델은 같은 모델일 수도 있고 서로 다른 모델일 수도 있습니다. 기능을 여러 단계로 나누었다고 반드시 그만큼 별도의 모델을 준비해야 하는 것은 아닙니다. 핵심은 각 단계에 어떤 입력을 주고 어떤 결과를 받는지를 나누어 설계하는 데 있습니다.

5. 다시 생성하고 검색하며 답변을 다듬는 흐름

충돌 유형을 얻으면 그 유형에 맞게 다음 처리를 진행합니다. 의미 충돌의 경우에는 초기 결과와 검색 결과, 충돌 유형, 의미 오류의 정의와 참고 예시를 답변 처리 모델에 함께 입력하는 방식이 있습니다. 역할의 관계를 잘못 읽은 문장이라면, 무엇이 뒤바뀌었는지 판단할 자료를 주어 최종 답변을 만드는 흐름입니다. 이 답변 처리 모델도 초기 답변 모델이나 충돌 판별 모델과 같을 수도, 다를 수도 있습니다.

사실 충돌을 처리하는 방식은 다시 생성하고 다시 검색하는 흐름으로 설명됩니다. 같은 질문을 초기 결과를 만들었던 첫 번째 모델에 다시 입력하고 데이터베이스에서도 다시 자료를 검색한 다음, 두 결과의 충돌 유형을 다시 판단합니다. 사실 충돌로 분류되지 않을 때까지 이 과정을 반복하는 실시예입니다. 여기서 다시 검색할 저장소나 검색 결과는 앞의 것과 같을 수도, 다를 수도 있습니다.

직접 제작한 가상의 출장 정산 문의 예시입니다. 기간과 규정은 설명을 위해 만든 내용이며, 실제 바이두 제품 화면이나 특정 회사의 업무 규정을 나타내지 않습니다.

가상 예시에서는 월말 정산이라는 초기 답변과 출장 종료 후 제출이라는 지침을 다시 살피는 상황을 생각하실 수 있습니다. 답변을 다시 만들고 문서를 다시 검색한 결과가 “출장 종료 후 7일 안에 제출한다”로 맞아지는 경우, 그 내용을 이용해 안내를 이어 갑니다. 검색 문서가 언제나 옳다고 가정해 초기 답변의 문구만 바꾸는 방식과는 처리 흐름이 다릅니다.

숫자가 달라진 원인이 초기 결과에 있을 수도 있고 검색 결과에 있을 수도 있기 때문입니다. 이 기술에서의 재비교는 두 결과 사이에 남아 있는 사실 충돌을 판단하는 과정입니다. 두 결과가 일치한다는 것과 실제 업무 정보가 정확하다는 것을 동일하게 취급하기보다, 서비스를 만들 때에는 사용하는 문서의 내용과 관리 방법도 함께 살펴야 합니다.

6. Qianfan의 지식검색과 업무용 RAG 이해하기

바이두의 Qianfan(천범)은 대규모 모델 서비스와 Agent 개발을 위한 플랫폼입니다. Agent는 질문을 받고 정해진 처리 단계나 도구를 이용해 일을 수행하는 소프트웨어 구성이라고 이해하시면 됩니다. 업무용 질문을 입력받아 관련 문서를 찾고, 찾은 내용을 답변 생성에 전달하는 흐름도 이런 구성으로 만들 수 있습니다.

Qianfan의 지식베이스 노드는 질문을 받아 선택한 저장소에서 관련 문서 조각을 반환합니다. 키워드 중심의 전체 텍스트 검색, 질문의 뜻을 고려하는 의미 검색, 두 방식을 함께 사용하는 혼합 검색을 안내하며, 찾은 조각을 다시 정렬하는 기능도 제공합니다. 문서 전체를 무조건 입력하는 대신 관련 부분을 골라 모델에 전달하는 모습을 생각하시면 됩니다.

공식 RAG 작업 흐름 예시에서는 검색 노드가 내보낸 문서 조각의 내용을 모델 노드의 입력에 연결하고, 사용자의 원래 질문도 함께 전달합니다. 앞서 읽은 기술을 이해할 때에도 검색으로 자료를 가져오는 단계와 자료를 사용해 답변을 처리하는 단계를 구분하면 좋습니다. 업무 질문에 필요한 자료를 잘 찾는 일과, 서로 다른 내용이 섞인 답변을 어떻게 다듬는지는 각각 설계할 부분입니다.

7. 개발팀이 살펴볼 검색과 답변 처리의 연결

이 특허 기술에서 눈여겨볼 점은 충돌 유형을 다음 처리 단계의 입력으로 사용한다는 것입니다. 초기 답변, 답변을 만드는 데 사용한 설명, 검색 자료를 준비하고, 이들 사이의 차이를 분류한 뒤 답변 처리 방법을 정합니다. 검색 결과를 길게 붙이는 것에 더해, 결과 사이의 관계를 다루는 구성입니다.

개발팀은 날짜나 수치가 다른 질문, 담당자와 대상의 관계가 뒤바뀐 질문을 나누어 시험해 볼 수 있습니다. 어떤 자료가 검색되었는지, 초기 결과의 어느 부분이 달랐는지, 어떤 유형으로 분류되었는지 기록하면 처리 단계를 점검하기 쉽습니다. 이 기록은 답변을 다시 학습했다는 뜻이 아니라, 실행 과정과 입력·출력을 살피기 위한 자료입니다.

서비스 설계에서는 답변과 검색을 반복할 때의 처리 시간, 문서의 갱신, 업무 담당자에게 전달할 조건도 함께 고려할 수 있습니다. 반복 비교가 길어지는 질문과 바로 안내할 수 있는 질문은 운영 방식이 달라질 수 있습니다. 질문 → 초기 결과와 검색 자료 → 충돌 분류 → 유형에 따른 처리의 연결을 구체적으로 정리하면, AI 지식검색 서비스가 어떤 순서로 답변을 만드는지 설명하기가 쉬워집니다.

기술을 더 읽어 볼 참고 자료

USPTO · US20260087055A1 특허 원문 — 지식 충돌 처리의 기술 설명과 원문 FIG. 1·2를 읽어 보실 수 있습니다.
바이두 Qianfan · 지식베이스 노드 공식 문서
바이두 Qianfan · 문서검색 질의응답 RAG 작업 흐름
바이두 · 기업과 본사 안내

함께 읽으면 좋은 글

DEEPX DX-M1과 AI 반도체 특허: 학습과 현장 추론을 잇는 방법
추론 중 가중치를 바꾸는 LLM: In-Place Test-Time Training 논문·특허 분석
인공지능 특허 변리사 김용덕 · 아이피렉스 업무 소개

우리 AI 서비스의 처리 흐름과 기술 차이를 정리해 보세요

아이피렉스 특허법률사무소는 AI·소프트웨어의 처리 흐름과 구성별 차이를 살펴 특허 출원과 권리 설계를 지원합니다. 상담하실 때에는 공개 가능한 범위의 검색·모델 처리 흐름도, 단계별 입력과 출력, 기존 방식과의 차이 및 평가 조건을 준비해 주시면 구체적인 기술 검토에 도움이 됩니다.

김용덕 대표 변리사의 AI 분야 프로젝트와 『인공지능 특허 확보 전략』 등 관련 저서는 AI 특허 업무·전문 경력 소개와 공식 프로필에서 살펴보실 수 있습니다.

김용덕 변리사 AI 전문성 확인하기

NVIDIA AI 특허 쉽게 읽기: 답변 후보를 골라 LLM 추론을 빠르게 하는 원리

아이피렉스 특허법률사무소 — Mon, 5 Oct 2026 15:00:46 +0900

답변 후보를 고르고 모델이 채택한 부분부터 이어 쓰는 과정을 그린 개념 이미지입니다.

AI가 답변을 한 조각씩 만들 때에는 다음 조각을 계산하는 과정이 반복됩니다. NVIDIA의 미국 특허 US20260236763A1은 앞으로 이어질 답변 후보 중에서 채택 가능성과 추가 처리 시간을 고려해 계산할 후보를 고르는 방법을 설명합니다. 배송 문의 챗봇이라는 가상 예시로 이 원리를 살펴보고, NVIDIA NIM의 추측 디코딩 기능과 추론 서비스 개발에서 생각할 점을 쉽게 풀어 드리겠습니다.

목차 · 궁금한 부분부터 읽어 보세요

챗봇 답변은 왜 한 조각씩 나타날까요?
토큰과 답변 후보, 추측 디코딩의 뜻
모델이 채택한 부분부터 이어 쓰는 원리
모든 후보를 계산하지 않고 고르는 방법
배송 문의 예시로 보는 기록과 선택의 순환
NVIDIA NIM에서 이해하는 추론 서비스
개발팀이 살펴볼 응답 시간과 계산 효율

1. 챗봇 답변은 왜 한 조각씩 나타날까요?

온라인 쇼핑몰에서 “제 주문은 언제 도착하나요?”라고 물었을 때, 챗봇의 문장이 화면에 조금씩 나타나는 모습을 떠올려 보세요. 대규모 언어 모델, 즉 LLM은 앞에 놓인 문맥을 바탕으로 뒤에 이어질 작은 조각을 계산합니다. 그 결과를 문맥에 붙이고 다시 다음 조각을 계산하는 일을 반복하면서 답변을 완성합니다.

이때의 질문은 단순합니다. “앞으로 나올 내용을 미리 준비해서 한 번에 여러 조각을 받아들일 수 없을까요?” 미리 만든 후보가 본래 모델의 판단과 잘 맞으면 계산을 반복하는 횟수를 줄일 수 있습니다. 반대로 후보가 자주 틀리면 결국 버릴 내용을 계산하는 데 시간과 메모리를 쓰게 됩니다.

NVIDIA의 미국 특허 US20260236763A1은 후보의 길이와 처리 비용을 함께 살피는 기술을 다룹니다. 긴 후보를 무조건 많이 준비하는 대신, 추가 계산으로 얻을 만한 이익이 있는 후보를 선택하는 접근입니다. 여기서 이익은 매출을 뜻하는 말이 아니라, 답변 생성에서 추가로 채택될 것으로 기대되는 조각을 뜻합니다.

2. 토큰과 답변 후보, 추측 디코딩의 뜻

토큰은 모델이 문장을 처리하는 작은 단위입니다. 단어 하나일 수도 있고 단어의 일부나 문장부호일 수도 있으므로, 화면에 보이는 한 단어와 항상 일치하지는 않습니다. 아래 배송 예시에서는 이해를 돕기 위해 실제 토큰 구분 대신 읽기 쉬운 문장 조각을 사용하겠습니다.

답변 후보는 앞으로 이어질 내용의 초안입니다. 초안을 만드는 쪽을 드래프터, 최종적으로 후보를 판단하는 쪽을 타깃 모델이라고 부릅니다. 드래프터가 반드시 별도의 작은 모델일 필요는 없습니다. 이 특허가 설명하는 방식에서는 별도 처리 과정이 후보를 만들 수도 있고, 같은 모델 안의 구성이 역할을 나누어 맡을 수도 있습니다.

추측 디코딩은 이런 초안을 먼저 준비한 뒤 타깃 모델이 여러 후보 위치를 묶어 계산하고, 사용할 수 있는 부분을 채택하는 생성 방식입니다. 디코딩은 모델의 계산 결과를 실제 답변으로 만들어 가는 과정입니다. 후보를 채택한다는 말은 모델의 생성 기준에 맞는다는 뜻이며, 배송 일정이나 답변 내용의 사실 여부를 별도로 확인해 준다는 뜻은 아닙니다.

3. 모델이 채택한 부분부터 이어 쓰는 원리

가령 드래프터가 “주문하신 상품은”, “주문하신 상품은 오늘”, “주문하신 상품은 오늘 출고됩니다”처럼 길이가 다른 후보를 준비했다고 생각해 보세요. 타깃 모델은 선택된 후보들을 묶어 처리하면서 자신의 계산 결과와 맞는 부분을 판단합니다. 처음부터 이어지는 부분이 맞으면 그 부분을 다음 문맥에 붙일 수 있습니다.

중간에서 판단이 어긋나면 그 뒤에 붙은 후보를 그대로 계속 사용하지 않습니다. 채택한 앞부분을 유지하고 타깃 모델의 결과를 이용해 이어 갑니다. 앞선 예시에서 “오늘”까지는 맞지만 뒤의 표현이 맞지 않는다면, 뒤쪽 초안을 버리고 모델이 선택한 내용부터 다음 생성을 진행하는 식입니다. 실제 배송 정보는 서비스가 제공하는 주문 데이터와 별도의 업무 처리로 연결해야 합니다.

원문 FIG. 5. 드래프터가 만든 후보를 선택한 뒤 타깃 모델이 병렬로 처리하는 흐름입니다. 그림의 나무 예시에서는 앞부분이 채택되지만 뒤쪽 후보는 달라집니다.

그림을 아래에서 위로 읽어 보시면 이해가 쉽습니다. 후보 생성, 후보 선택, 타깃 모델의 처리, 채택 결과가 차례로 이어집니다. 채택한 내용은 다음 생성의 출발점이 됩니다. 잘 맞는 긴 후보를 채택하면 한 조각씩 반복하던 일을 줄일 여지가 있지만, 긴 후보가 자주 버려진다면 준비와 처리에 쓴 계산이 늘어납니다.

4. 모든 후보를 계산하지 않고 고르는 방법

이 기술의 중심에는 후보 선택기가 있습니다. 선택기는 후보를 길게 확장했을 때 추가로 채택될 가능성과 추가 처리 시간을 살펴봅니다. 이전 실행에서 어느 위치까지 후보가 채택되었는지, 후보를 더 많이 처리했을 때 시간이 얼마나 늘었는지 기록해 두면 다음 선택에 참고할 수 있습니다.

이때 추가 이익은 후보를 한 단계 더 확장해서 얻을 것으로 기대되는 채택의 증가분입니다. 추가 비용은 그만큼 더 처리할 때 늘어나는 시간입니다. 긴 후보의 전체 길이만 보는 것이 아니라, 길이를 더 늘리는 일이 실제로 얼마나 도움이 되는지 살피는 것입니다. 짧은 후보 뒤에 자주 버려지는 내용을 길게 붙이면 추가 비용에 비해 얻는 이익이 작을 수 있습니다.

원문 FIG. 10. 추가 이익이 가장 큰 후보를 묶음에 넣고, 추가 이익과 처리 시간의 비율을 기준값과 비교해 선택을 계속할지 판단하는 절차입니다.

FIG. 10의 흐름에서는 먼저 남은 후보 가운데 추가 이익이 가장 큰 후보를 골라 처리할 묶음에 넣습니다. 이어 그 후보의 추가 이익을 추가 비용으로 나눈 비율을 기준값과 비교해, 다음 후보까지 선택할지 결정합니다. 이 과정을 계속하거나 멈춘 뒤 선택한 묶음을 타깃 모델에 보냅니다. 기준값은 사용할 수 있는 계산 자원이나 메모리 등을 고려해 조정할 수 있습니다.

따라서 “가장 긴 후보를 고른다”거나 “비율이 높은 순서로 모두 정렬한다”는 설명만으로는 이 흐름을 담기 어렵습니다. 어떤 후보가 유용할지 판단하는 일과, 후보를 더 처리할 가치가 있는지 결정하는 일이 함께 들어 있습니다. 후보를 만드는 기술에 더해 이번 계산에 넣을 후보의 양을 조절한다는 점이 눈여겨볼 부분입니다.

5. 배송 문의 예시로 보는 기록과 선택의 순환

배송 문의 챗봇을 운영하는 가상 상황으로 돌아가 보겠습니다. 같은 질문이라도 주문 상태와 앞선 대화가 다르면 다음 표현도 달라집니다. “주문하신 상품은” 뒤에 짧은 후보와 긴 후보를 준비하고, 선택기가 과거의 처리 시간과 채택 기록을 참고해 이번에 계산할 묶음을 정합니다.

직접 제작한 가상 배송 문의 예시입니다. 읽기 쉬운 문장 조각으로 후보 생성 → 선택 → 모델의 일부 채택 → 답변 이어 쓰기를 표현하며, 실제 서비스 화면이나 토큰 구분을 재현한 그림은 아닙니다.

타깃 모델이 앞부분을 채택하면 그 결과로 다음 문맥을 만들고, 실제 처리 시간과 채택된 길이를 기록합니다. 다음 차례에는 이 기록을 참고해 다시 후보를 고릅니다. 후보를 선택하고, 실행하고, 기록을 갱신하는 흐름이 답변 생성과 함께 반복됩니다. 여기서 실행 기록을 갱신하는 일은 모델의 가중치를 다시 학습하는 일과는 구분됩니다.

예를 들어 긴 후보의 뒷부분이 자주 바뀌는 요청에서는 긴 후보를 무조건 많이 계산할 이유가 줄어듭니다. 반대로 일정한 표현이 잘 이어지는 요청에서는 더 긴 부분을 미리 준비할 여지가 있습니다. 다만 요청의 내용과 장치의 상태가 달라지면 처리 시간도 달라질 수 있으므로, 실제 실행에서 얻은 기록을 이용하는 과정이 중요해집니다.

6. NVIDIA NIM에서 이해하는 추론 서비스

NVIDIA NIM은 AI 모델을 서비스로 배포하고 실행하기 위한 추론 마이크로서비스입니다. 마이크로서비스는 정해진 기능을 별도 서비스로 실행하고 다른 프로그램이 호출해 사용할 수 있게 하는 구성입니다. 챗봇을 예로 들면, 주문 화면이나 상담 프로그램이 모델 실행 서비스를 호출해 답변을 받아 사용하는 모습을 생각하시면 됩니다.

NIM for Large Language Models 2.0.10의 공식 문서는 vLLM 백엔드에서 사용할 수 있는 추측 디코딩 기능을 설명합니다. 빠르게 만든 초안을 타깃 모델이 처리하는 기본 원리와 함께, 별도 초안 모델을 쓰는 EAGLE3, 모델 내부의 추가 예측 구성을 쓰는 MTP, 입력 문맥에서 반복되는 부분을 찾아 후보를 만드는 n-gram 방식 등을 안내합니다. 사용할 방식과 모델의 조건은 서로 다릅니다.

제품의 기능을 이해할 때에는 초안을 어떻게 만드는가와 초안을 얼마나 처리하는가를 나누어 생각하면 좋습니다. 앞서 읽은 특허의 후보 선택기는 뒤의 질문을 이해하는 데 유용합니다. 추측 디코딩을 사용하는 서비스에서는 후보를 많이 준비하는 것만으로 끝나지 않고, 후보의 채택 결과와 계산 부담을 함께 살펴야 합니다.

7. 개발팀이 살펴볼 응답 시간과 계산 효율

챗봇 사용자가 느끼는 응답 시간과 서버가 일정 시간 동안 처리하는 전체 처리량은 서로 다른 지표입니다. 요청이 적고 계산 자원이 남아 있을 때에는 후보를 함께 처리해 답변을 빨리 이어 갈 여지가 있습니다. 반면 GPU가 이미 많은 요청을 처리하는 상황에서는 초안을 위한 추가 계산과 메모리 사용 때문에 전체 처리량이 늘지 않을 수도 있습니다.

따라서 개발팀은 실제 요청의 길이와 동시 이용자 수, 후보가 채택되는 정도, 추가 메모리와 처리 시간을 함께 측정하는 편이 좋습니다. 특정 질문 몇 개에서 답변이 빨리 나왔다는 결과만으로 전체 상담 서비스에 맞는 설정을 결정하기는 어렵습니다. 후보 선택의 기준도 운영 환경과 요청 특성에 맞춰 생각해야 합니다.

이 특허 기술에서 얻을 수 있는 개발 아이디어는 미리 계산할 분량을 실행 기록에 따라 조절한다는 것입니다. 초안을 잘 만드는 구성, 유용한 후보를 고르는 구성, 채택 결과를 다음 문맥과 기록으로 이어 주는 구성을 나누어 설계할 수 있습니다. AI 서비스의 속도를 개선할 때, 모델의 크기와 하드웨어 성능뿐 아니라 계산 순서와 선택 과정도 함께 살펴보시기 바랍니다.

기술을 더 읽어 볼 참고 자료

USPTO · US20260236763A1 특허 원문 — 후보 선택의 기술 설명과 원문 FIG. 5·10을 함께 읽어 보실 수 있습니다.
NVIDIA · NIM for LLMs 2.0.10 추측 디코딩 공식 문서
NVIDIA · 기업 및 본사 안내

함께 읽으면 좋은 글

추론 중 가중치를 바꾸는 LLM: In-Place Test-Time Training 논문·특허 분석
Attention Residuals 논문 쉽게 읽기: AI 정보 선택 원리와 특허 검토 포인트
인공지능 특허 변리사 김용덕 · 아이피렉스 업무 소개

우리 제품의 기술 차이를 구체적으로 정리해 보세요

아이피렉스 특허법률사무소는 AI·소프트웨어의 처리 흐름과 구성별 차이를 살펴 특허 출원과 권리 설계를 지원합니다. 상담하실 때에는 공개 가능한 범위의 시스템 흐름도, 후보를 생성하고 선택하는 기준, 기존 방식과 비교한 처리 시간 및 평가 조건을 준비해 주시면 구체적인 기술 검토에 도움이 됩니다.

김용덕 변리사의 AI 분야 프로젝트·저서와 상담 안내 보기

DEEPX DX-M1과 AI 반도체 특허: 학습과 현장 추론을 잇는 방법

아이피렉스 특허법률사무소 — Sun, 4 Oct 2026 15:00:13 +0900

학습 장치와 현장 추론 장치 사이의 정보 흐름을 그린 개념 예시입니다.

AI 모델이 학습용 컴퓨터에서 잘 작동해도 작은 현장 장치에서는 같은 결과를 내지 못할 수 있습니다. 딥엑스의 미국 특허 US20260065050A1은 현장 장치의 평가를 학습 장치로 돌려보내 모델 구조와 가중치를 고치고, 현장에서 다시 추론하는 흐름을 설명합니다. 공장 불량검사 예시로 이 기술의 원리를 살펴보고, GPU와 NPU의 역할 및 DX-M1이 속한 엣지 AI의 개념을 쉽게 풀어 드리겠습니다.

목차 · 궁금한 부분부터 읽어 보세요

공장 AI는 왜 현장에서 달라질까요?
학습과 추론, 두 장치의 역할
모델을 가볍게 만드는 가중치와 구조
현장 평가를 학습에 되돌리는 순환
GPU와 NPU가 나누어 맡는 계산
DX-M1과 엣지 AI 이해하기
개발팀이 얻을 모델 개선의 시사점

1. 공장 AI는 왜 현장에서 달라질까요?

컨베이어 벨트 위 제품을 카메라로 찍고, AI가 작은 흠집을 찾아내는 공장을 떠올려 보세요. 개발실에서는 큰 컴퓨터로 사진을 충분히 학습할 수 있지만, 생산라인에서는 카메라 옆의 작은 장치가 새 사진을 계속 판단해야 합니다. 사진을 먼 서버로 보내고 결과를 기다리기 어려운 현장이라면, 기기 가까운 곳에서 계산하는 방식이 유용합니다.

여기서 자연스럽게 질문이 생깁니다. “잘 학습한 AI를 현장 장치에 넣기만 하면 되는 것 아닌가요?” 학습용 컴퓨터와 현장 장치는 지원하는 계산, 메모리, 처리 능력이 다를 수 있습니다. 큰 컴퓨터에서 실행한 모델을 작은 장치에 맞게 바꾸는 과정이 필요하고, 그 과정에서 흠집을 놓치는 등 판단 결과가 달라질 수도 있습니다.

딥엑스의 미국 특허 US20260065050A1은 이 문제를 학습과 추론의 연결로 풀어 설명합니다. 현장 장치에서 얻은 평가를 학습 장치로 되돌리고, 다음 모델을 만드는 데 반영하는 흐름입니다. 공장 불량검사라는 가상 예시를 따라가 보시면, 왜 모델을 보내는 일과 평가를 다시 받는 일이 함께 필요한지 이해하실 수 있습니다.

2. 학습과 추론, 두 장치의 역할

학습은 여러 사례를 이용해 AI 모델의 계산 값을 조정하는 과정입니다. 추론은 그렇게 학습한 모델에 새로운 입력을 넣어 결과를 구하는 과정입니다. 정상 제품과 불량 제품의 사진으로 판단 기준을 익히는 일이 학습이라면, 생산라인에서 찍힌 새 제품 사진을 판정하는 일이 추론입니다.

학습과 추론을 서로 다른 장치가 맡을 수 있습니다. 학습 장치는 반복 계산을 통해 모델을 만들고, 현장 추론 장치는 그 모델로 입력을 처리합니다. 이 특허가 설명하는 흐름에서도 첫 번째 장치가 학습을 맡고, 구성이 다르며 상대적으로 처리 능력이 제한된 두 번째 장치가 추론을 맡습니다. 역할을 나누면 모델을 현장 장치에 맞게 준비하는 일이 중요해집니다.

예를 들어 개발실에서 사용한 계산을 현장 장치가 그대로 지원하지 못한다면, 실행할 수 있는 형태로 모델을 바꾸어야 합니다. 모델을 작게 만드는 데 성공했더라도 불량 사진의 판정 결과까지 그대로 유지되는지는 별개의 문제입니다. 이 때문에 모델을 옮긴 뒤 그 장치에서 시험하고, 평가 결과를 다음 학습으로 이어 가는 과정이 필요합니다.

3. 모델을 가볍게 만드는 가중치와 구조

가중치는 모델이 계산할 때 사용하는 숫자입니다. 사진에서 얻은 특징을 판단에 얼마나 반영할지 조절하는 값이라고 생각하시면 쉽습니다. 모델 구조는 그 숫자를 사용하는 계산 단계와 연결 방식입니다. 공장의 작업에 비유하면 구조는 작업 순서와 배치이고, 가중치는 각 단계의 조절 값에 가깝습니다.

따라서 가중치를 바꾸는 일과 구조를 바꾸는 일은 다릅니다. 같은 계산 순서를 두고 숫자만 조정할 수도 있고, 계산 단계나 연결을 줄이거나 바꾸면서 숫자를 다시 학습할 수도 있습니다. 현장 장치에 맞는 모델을 만들 때에는 두 가지를 함께 살펴야 합니다. 구조를 바꾸면 그 구조에 맞는 가중치도 다시 준비해야 하기 때문입니다.

모델을 가볍게 하는 대표적인 방법으로 가지치기와 양자화가 있습니다. 가지치기는 일부 연결이나 구성을 줄이는 방식이고, 양자화는 계산에 쓰는 숫자를 더 제한된 정밀도로 표현하는 방식입니다. 계산량이나 저장 부담을 줄이는 데 쓰이지만, 사진의 미세한 차이를 구분하는 능력에도 영향을 줄 수 있습니다. 이 특허는 이런 최적화 뒤 낮아진 추론 정확도를 다시 학습하는 과정을 설명합니다.

원문 FIG. 5. 학습용 GPGPU(100), 추론용 NPU(200), 메모리(300)가 연결된 예시입니다. 메모리에는 실행에 맞게 계산을 준비하는 Compiler(310), 정보를 보관하는 Storage(320), 결과를 전달하는 Reporting(330)이 표시돼 있습니다.

4. 현장 평가를 학습에 되돌리는 순환

전체 흐름은 학습 → 현장 추론 → 평가 회신 → 모델 수정 → 다시 추론으로 이해하시면 됩니다. 먼저 학습 장치가 모델을 학습하거나 다시 학습해 가중치를 준비합니다. 그 가중치를 현장 장치로 보내면, 현장 장치는 준비된 모델과 가중치로 새 입력을 처리합니다.

현장 장치는 추론 결과와 그 성능에 대한 평가 결과를 만들고, 평가 결과를 학습 장치에 돌려보냅니다. 공장 예시라면 정답을 알고 있는 시험 사진으로 정상과 불량을 얼마나 잘 구분했는지 살펴보는 상황을 생각해 볼 수 있습니다. 단순히 사진을 판정하는 기능에 더해, 그 판정이 잘 이루어졌는지를 다음 개발 단계에 전달하는 것입니다.

다음 단계에서 학습 장치는 현장 평가를 반영해 학습 또는 재학습을 수행합니다. 이때 현장 장치에서 실행할 수 있도록 모델 구조를 수정하고 가중치를 갱신합니다. 바뀐 모델에 맞춘 가중치를 다시 보내면, 현장 장치는 수정된 모델과 가중치로 추론합니다. 모델을 만드는 장치와 실제로 실행하는 장치 사이에 개선의 순환이 생깁니다.

원문 FIG. 7. 학습 데이터는 GPGPU(100)로, 시험 데이터는 Target Device(200-1)로 들어갑니다. 하단 Output에서 학습 쪽으로 이어지는 화살표는 실행 장치에서 얻은 결과가 다음 학습으로 돌아가는 흐름을 보여 줍니다.

작은 흠집을 자주 놓치는 공장 AI를 예로 들어 보겠습니다. 현장 시험에서 얻은 평가를 학습 장치로 보내고, 개발 쪽에서 계산 연결을 조정한 뒤 다시 학습합니다. 수정한 모델을 현장 장치에 전달해 같은 종류의 사진을 다시 판정해 볼 수 있습니다. 이 흐름에서 재학습은 학습 장치가 맡고, 현장 장치는 개선된 모델의 실행과 평가를 맡습니다.

설명용 공장 업무 흐름. 학습 컴퓨터에서 모델 준비 → 현장 장치로 가중치 전달 → 제품 사진 판정과 평가 → 평가 결과 회신 → 모델 구조와 가중치 수정 → 현장에서 다시 판정. 이 그림은 이해를 돕기 위해 직접 제작한 가상 예시입니다.

5. GPU와 NPU가 나누어 맡는 계산

GPU는 여러 계산을 병렬로 처리하는 데 쓰이는 그래픽 처리 장치입니다. GPGPU는 GPU의 계산 능력을 그래픽 이외의 일반 계산에도 활용하는 것을 뜻합니다. AI 학습에서도 이런 병렬 계산을 활용할 수 있습니다. NPU는 신경망 연산을 처리하도록 설계된 프로세서입니다.

이 특허의 장치 예시에서는 GPGPU가 학습 쪽 계산을, NPU가 현장 추론을 맡습니다. 학습 쪽에서는 모델을 반복해서 조정하고, 추론 쪽에서는 준비된 모델로 입력을 처리합니다. 학습 장치가 만든 모델을 NPU에서 실행하려면, 그 NPU가 지원하는 계산 방식과 처리할 수 있는 데이터 크기에 맞추는 과정이 필요합니다.

FIG. 5의 컴파일러는 모델의 계산을 실행 장치에 맞게 준비하는 구성으로 읽으시면 됩니다. 저장부와 보고부는 모델과 결과를 보관하고 전달하는 역할을 돕습니다. 이처럼 장치 이름만 보는 것보다, 모델을 어떻게 준비하고 어떤 정보를 주고받는지 따라가면 시스템의 작동 원리가 더 선명해집니다.

6. DX-M1과 엣지 AI 이해하기

딥엑스는 DX-M1을 기기 가까운 곳에서 AI 추론을 처리하는 반도체로 소개합니다. 이러한 처리를 엣지 AI라고 합니다. 모든 입력을 먼 서버로 보내 계산하기보다, 카메라나 기기 가까이에 있는 장치에서 처리하는 방식입니다. 여기서 엣지는 데이터가 만들어지거나 사용되는 현장 가까운 위치를 뜻합니다.

공장 예시에 적용해 생각하면, 카메라가 촬영한 제품 사진을 생산라인 가까운 추론 장치가 판단하는 상황입니다. 장치에서 처리할 수 있는 모델을 준비하면 서버와 데이터를 주고받는 흐름을 줄일 수 있고, 현장에서 필요한 응답을 설계하는 데 도움이 됩니다. 전력과 메모리, 지원하는 연산을 고려해 모델을 준비하는 일도 함께 중요해집니다.

엣지 AI 개발에서는 큰 컴퓨터에서의 학습 결과를 현장 장치의 실행 결과로 이어 주어야 합니다. 모델을 작게 만드는 과정, 장치에 맞게 계산을 준비하는 과정, 현장 평가를 다음 개선에 반영하는 과정이 서로 맞물립니다. 앞서 살펴본 학습과 추론의 순환은 이러한 개발 과정을 이해하는 데 유용한 기술적 관점입니다.

7. 개발팀이 얻을 모델 개선의 시사점

이 특허 기술의 중심은 학습 장치와 추론 장치를 나누는 데서 한 걸음 더 나아갑니다. 추론 장치의 평가가 다음 모델의 구조와 가중치를 바꾸는 데 쓰인다는 점이 핵심입니다. 개발실의 학습 결과와 현장의 실행 결과를 연결해 모델을 계속 다듬는 방식입니다.

개발팀은 모델의 크기나 학습 성능만으로 현장에 맞는 모델을 결정하기 어렵습니다. 실행할 장치에서 평가하고, 그 결과를 모델 수정으로 이어 가는 과정이 필요합니다. 계산 구조를 바꾸었는지, 가중치를 다시 학습했는지, 수정된 모델을 다시 실행했는지에 따라 개선 과정의 내용도 달라집니다.

공장 AI를 다시 떠올려 보시면 이해가 쉽습니다. 현장에서 흠집을 놓친다는 평가가 개발 쪽으로 돌아오고, 개발 쪽은 모델의 계산 구조와 숫자를 고칩니다. 현장은 고친 모델로 다시 판단합니다. 이렇게 만드는 장치와 사용하는 장치가 평가를 통해 이어지는 흐름이 모델을 현장에 맞추는 이 특허의 기술적 아이디어입니다.

기술을 더 읽어 볼 참고 자료

USPTO · US20260065050A1 특허 원문 — 기술 설명과 원문 FIG. 5·7을 함께 읽어 보실 수 있습니다.
DEEPX · DX-M1 공식 제품 설명
DEEPX · 한국 본사와 기술 지원 안내
USPTO · A1 등 문헌 코드 설명

함께 읽으면 좋은 글

추론 중 가중치를 바꾸는 LLM: In-Place Test-Time Training 논문·특허 분석
인공지능 특허 변리사 김용덕 · 아이피렉스 업무 소개

우리 제품의 기술 차이를 특허 관점에서 검토해 보세요

아이피렉스 특허법률사무소는 AI·소프트웨어의 처리 흐름과 구성별 차이를 살펴 특허 출원과 권리 설계를 지원합니다. 상담하실 때에는 공개 가능한 범위의 시스템 흐름도, 모델 수정 전후의 차이, 장치별 역할과 평가 조건을 준비해 주시면 구체적인 기술 검토에 도움이 됩니다.

김용덕 변리사의 AI 분야 프로젝트·저서와 상담 안내 보기

Attention Residuals 논문 쉽게 읽기: AI 정보 선택 원리와 특허 검토 포인트

아이피렉스 특허법률사무소 — Sat, 3 Oct 2026 05:54:30 +0900

Attention Residuals는 AI가 앞선 처리 단계의 정보를 입력에 맞는 비율로 조합하는 연결 방식입니다. 모든 결과를 같은 비중으로 더하는 대신, 학습한 비교 기준으로 반영 비율을 정합니다. 이 글에서는 작동 원리를 쉬운 예로 살펴보고, AI 특허에서 검토할 기술적 차이를 정리해 드립니다.

분석 대상: Kimi Team의 Attention Residuals · 2026년 3월 16일 공개된 arXiv v1 기준

1. 앞 단계의 정보를 어떻게 전달할까요?

AI는 여러 처리 단계를 거치면서 입력을 해석합니다. 여기서 층은 정보를 처리하는 한 단계를 뜻합니다. 잔차 연결은 앞에서 전달받은 정보에 새 처리 결과를 더해 다음 단계로 보내는 연결입니다.

기존 연결에서는 앞선 결과들이 같은 비중으로 누적됩니다. 논문은 깊은 모델에서 개별 층의 기여가 희석되는 문제에 주목했습니다. Attention Residuals는 앞선 표현들을 비교하고, 입력에 따라 서로 다른 비율로 반영하도록 설계합니다.

어텐션은 여러 정보를 비교해 반영 비율을 정하는 방법입니다. 이 논문에서는 같은 토큰이 여러 층을 거치며 만든 표현을 비교합니다. 토큰은 글을 처리하기 위해 나눈 작은 단위입니다.

2. 보고서 메모로 이해해 보세요

세 사람이 보고서에 메모를 남겼다고 가정해 보겠습니다. 최종 작성자는 지금 고치는 문장에 도움이 되는 메모를 더 많이 참고할 수 있습니다. AI도 앞선 단계의 처리 결과를 입력에 맞는 비율로 조합합니다.

이해를 돕기 위한 가상 예시

메모 A10%적게 반영

메모 B20%일부 반영

메모 C70%더 많이 반영

비율에 따라 조합

→ 다음 처리에 사용

위 숫자는 설명을 위한 예시이며 논문의 실험값이 아닙니다. 실제 모델에서는 처리 결과를 숫자의 묶음으로 나타내고, 학습한 비교 기준으로 반영 비율을 계산합니다. 사람이 메모의 중요도를 지정하는 방식은 아닙니다.

3. 세 단계로 살펴보는 작동 원리

앞선 결과를 모읍니다. 반영 비율을 계산할 때 사용할 표현의 크기를 정규화합니다. 정규화는 비교에 사용할 값의 크기를 일정한 기준에 맞추는 처리입니다.
반영 비율을 정합니다. 층마다 학습한 비교 기준으로 점수를 계산합니다. 소프트맥스는 여러 점수를 전체 비율의 합이 100%가 되도록 바꾸는 계산입니다.
결과를 조합합니다. 계산한 비율대로 원래의 표현을 합쳐 다음 처리의 입력으로 사용합니다.

모든 앞선 결과를 따로 보관하면 메모리와 통신 부담이 커질 수 있습니다. 논문은 여러 층을 묶는 Block AttnRes도 제안합니다. 묶음 안에서는 결과를 더하고, 묶음 사이에서는 어텐션으로 반영 비율을 정합니다. 이렇게 층을 묶어 관리해 모든 층의 결과를 따로 보관하는 방식의 저장·통신 부담을 줄입니다.

4. 실험에서 확인한 점과 적용 한계

저자들은 Kimi Linear 기반 모델을 학습한 뒤 일반 지식, 수학, 코드 등 여러 평가에서 개선을 보고했습니다. 이는 논문에 제시된 구조와 학습·평가 조건에서 얻은 결과입니다. 기존 모델의 연결만 바꾸면 같은 효과가 나온다고 해석하기는 어렵습니다.

제품과 연결해 생각한다면 기업용 보고서 요약 AI의 내부 구조를 검토하는 예를 들 수 있습니다. 이때 요약 품질뿐 아니라 앞선 결과를 저장하는 메모리, 장치 사이 통신량, 처리 시간도 함께 측정해야 합니다. 이는 적용 가능성을 설명하기 위한 예시이며, 특정 시판 제품이 이 기술을 사용한다고 확인한 내용은 아닙니다.

5. 아이피렉스의 AI 특허 검토 포인트

이 절은 공개 논문에 대한 독립적인 특허 실무 검토입니다. 특정 등록특허의 권리범위를 분석하거나 등록 가능성을 확정한 내용은 아닙니다.

청구항은 특허로 보호받으려는 범위를 정리한 문장입니다. 이런 기술을 검토할 때는 정보를 선택한다는 목표를 구체적인 처리 구성과 연결해 살펴봐야 합니다.

선택 대상: 개별 층의 출력인지, 여러 층을 묶은 표현인지 확인합니다.
비율 계산: 학습한 비교 기준, 정규화, 비율 계산이 어떤 순서로 결합되는지 살펴봅니다.
저장·전송: 앞선 결과를 보관하고 중복 전송을 줄이는 구성과 처리 순서를 확인합니다.
기술적 효과: 구성 변경이 성능·메모리·통신량에 미치는 영향을 비교 조건과 함께 정리합니다.

AI 특허를 준비하신다면 처리 흐름도, 기존 방식과 달라진 구성, 비교 실험 자료, 기술 공개 일정을 정리해 주세요. 아이피렉스는 공개된 AI 분야 특허 분석·IP-R&D 프로젝트와 관련 저서를 바탕으로 기술의 차이를 권리 설계 관점에서 검토합니다. 구체적인 이력은 김용덕 대표 변리사의 공식 프로필에서 확인하실 수 있습니다.

원문과 함께 읽으면 좋은 글

분석 기준: 2026년 10월 3일 · arXiv v1 · 실험은 독립적으로 재현하지 않았습니다.

추론 중 가중치를 바꾸는 LLM: In-Place Test-Time Training 논문·특허 분석

아이피렉스 특허법률사무소 — Wed, 5 Aug 2026 11:23:09 +0900

In-Place Test-Time Training은 AI가 긴 문서를 처리하면서 일부 가중치를 잠깐 갱신하는 방법입니다. 먼저 읽은 부분에서 만든 갱신을 다음 부분에 반영하도록 설계했습니다. 이 글은 작동 원리와 실험의 한계를 쉽게 설명하고, AI 특허에서 살펴볼 기술 구성과 차별점을 별도로 검토합니다.

먼저, 쉬운 예로 이해해 보세요

기업의 긴 제품 설명서를 읽고 질문에 답하는 AI를 생각해 보세요. 앞부분의 내용을 뒤에서도 잘 활용할 수 있도록, 문서를 읽는 동안 모델 안의 일부 계산 기준을 갱신하는 것이 이 논문의 접근입니다. 메모를 참고하는 모습에 비유할 수 있지만, 실제로는 특정 행렬의 숫자를 바꾸는 계산입니다. 이미 처리한 부분으로 돌아가 답을 고치는 방식은 아닙니다.

추론: 학습한 AI로 새 입력의 결과를 구하는 과정입니다.
가중치: AI가 계산할 때 사용하는 숫자입니다. 이 논문은 기존 MLP 블록의 출력 행렬 일부를 갱신합니다.
청크: 긴 문서를 나누어 처리하는 묶음입니다.
fast weights: 문서를 처리하는 동안 빠르게 바뀌는 가중치를 뜻합니다. 모델 전체를 새로 학습한다는 의미는 아닙니다.

논문의 실험에서는 문서 경계에서 이 상태를 초기화합니다. 모든 질문에서 더 좋은 답을 보장하거나 지식을 영구적으로 저장하는 방법으로 설명해서는 안 됩니다. 큰 흐름은 아래 1·8·9·11절에서, 수식과 실험 조건은 중간 절에서 확인하실 수 있습니다.

분석 대상: Feng 외, In-Place Test-Time Training 원문(arXiv v1, 2026. 4. 7.) · 논문 PDF · 연구진 공개 코드

이 글의 목차

In-Place Test-Time Training이 해결하려는 문제
핵심 원리 1: 기존 MLP의 Wdown을 fast weights로 바꾼다
핵심 원리 2: 청크별로 먼저 적용하고 나중에 업데이트한다
핵심 원리 3: 현재 토큰 복원이 아닌 다음 토큰 예측
이론 분석: 왜 정답 토큰의 로짓이 올라가는가
Context Parallelism: 순차 업데이트를 병렬로 계산하는 방법
실험 결과: LLM 장기 컨텍스트 성능은 얼마나 좋아졌나
논문이 실제로 입증한 것과 아직 입증하지 않은 것
AI 특허 전문 변리사의 관점에서 본 발명의 중심
산업적 의미: 어디에 유용할 수 있나
결론

대부분의 대규모 언어모델은 학습이 끝나면 가중치를 고정한 채 배포됩니다. 사용자가 아무리 긴 문서를 넣어도 모델은 입력 토큰을 attention과 컨텍스트 창 안에서 처리할 뿐, 그 문서에 맞춰 내부 가중치를 직접 바꾸지는 않습니다. In-Place Test-Time Training은 이 고정된 추론 방식을 바꾸려는 논문입니다.

논문의 제안은 의외로 보수적입니다. Attention을 제거하거나 새로운 순환 메모리 층을 끼워 넣지 않습니다. 대신 Transformer에 원래 존재하는 MLP 블록의 마지막 출력 프로젝션 Wdown을 추론 중 업데이트되는 fast weights로 사용합니다. 여기에 다음 토큰 예측에 맞춘 목표값과 대규모 병렬 처리에 적합한 청크 업데이트를 결합합니다.

한 문장으로 이해하기
Attention은 현재 문맥을 펼쳐 놓고 읽는 장치라면, In-Place TTT의 Wdown은 문맥에서 반복적으로 유용할 정보를 임시로 적어 두는 모델 내부의 화이트보드에 가깝습니다. 다만 이 화이트보드는 문서가 끝나면 초기 상태로 되돌아갑니다.

1. In-Place Test-Time Training이 해결하려는 문제

1.1 학습 후 고정되는 LLM의 한계

현재 LLM의 기본 패러다임은 먼저 대규모 사전학습을 하고, 배포 후에는 모델 가중치를 고정하는 방식입니다. 새로운 정보는 프롬프트나 검색 결과 형태로 컨텍스트에 넣을 수 있지만, 입력이 길어질수록 attention의 계산량과 메모리 부담이 커지고, 컨텍스트 창을 벗어난 정보는 직접 유지하기 어렵습니다. 논문은 이 문제를 장기적이고 변화하는 작업에서의 적응 한계로 정의합니다.

1.2 Test-Time Training과 fast weights

Test-Time Training, 즉 TTT는 추론 시점에 모델 파라미터 일부를 빠르게 업데이트하는 접근입니다. 고정된 사전학습 가중치와 달리, fast weights는 입력 스트림에서 생성되는 자기지도 학습 목표를 이용해 계속 바뀝니다. 이때 fast weights는 과거 문맥을 압축해 저장하고 다음 입력에 반영하는 동적 메모리처럼 작동합니다.

일반적인 TTT는 키와 값을 fast weights에 연관시키는 업데이트 단계와, 업데이트된 fast weights를 질의에 적용하는 단계로 구성됩니다. 문제는 이 방식이 대규모 LLM 생태계와 잘 맞지 않았다는 점입니다.

1.3 기존 TTT(Test-Time Training)가 대규모 LLM에 어려웠던 세 가지 이유

1. 아키텍처 호환성: 기존 연구는 attention을 대체하는 전용 TTT 층을 넣는 경우가 많아, 이미 학습된 수십억 파라미터 모델을 그대로 시작점으로 쓰기 어렵습니다.

2. 계산 효율: 토큰마다 fast weights를 순차 업데이트하면 GPU와 TPU의 병렬 처리 능력을 충분히 활용하기 어렵습니다.

3. 학습 목표 불일치: 현재 토큰을 복원하는 일반적인 reconstruction objective가 언어모델의 본질인 다음 토큰 예측과 직접 정렬된다고 보장하기 어렵습니다.

비교 항목	기존 TTT의 전형적 접근	In-Place TTT
모델 구조	전용 층을 추가하거나 attention을 대체	기존 MLP의 Wdown을 재활용
사전학습 모델 활용	처음부터 재학습하는 경우가 많음	기존 체크포인트 기반 추가 학습
업데이트 단위	토큰 또는 작은 청크	512-1024 토큰 수준의 큰 청크가 유리
목표값	현재 토큰 표현 복원	미래 토큰 정보를 포함한 LM-aligned target
병렬화	순차성으로 인한 병목	prefix scan 기반 context parallelism
attention과 관계	주요 token mixer로 대체	attention을 유지하고 보완

2. 핵심 원리 1: 기존 MLP의 Wdown을 fast weights로 바꾼다

Transformer의 gated MLP는 입력을 두 개의 프로젝션 경로로 변환한 뒤, 게이트를 적용해 중간 활성값 Z를 만들고, 마지막 출력 프로젝션 Wdown을 통해 모델 차원으로 되돌립니다. 논문은 Wup과 Wgate는 고정한 채 Wdown만 추론 중 업데이트합니다. 즉, MLP 블록의 구조와 사전학습된 나머지 가중치는 유지하면서 마지막 행렬에 문맥별 임시 상태를 축적합니다.

그림 1. In-Place TTT 전체 구조. Attention은 유지하고 MLP의 Wdown만 fast weights로 갱신한다. 출처: Feng et al., 논문 p. 6, Figure 1.

이 설계의 실무적 장점은 구조 변경이 작다는 점입니다. 새로운 대형 메모리 모듈을 무작위 초기화해 삽입하는 대신, 이미 언어 능력을 갖춘 MLP의 출력 행렬을 그대로 시작점으로 삼습니다. 논문은 이를 drop-in enhancement라고 부릅니다.

중요한 오해 방지
여기서 drop-in은 추가 학습이 전혀 필요 없다는 뜻이 아닙니다. Qwen3-4B 실험은 32k 문맥에서 약 20B 토큰, 128k 문맥에서 약 15B 토큰의 continual training을 수행했습니다. 의미는 모델 구조를 갈아엎거나 처음부터 사전학습하지 않고 기존 체크포인트에서 시작할 수 있다는 것입니다.

3. 핵심 원리 2: 청크별로 먼저 적용하고 나중에 업데이트한다

In-Place TTT는 입력 시퀀스를 여러 청크로 나눕니다. 각 청크에서는 현재 fast weights를 먼저 적용해 출력을 만든 다음, 그 청크에서 얻은 중간 활성값과 목표값으로 Wdown을 업데이트합니다. 업데이트된 행렬은 다음 청크부터 사용됩니다. 이 순서가 apply-then-update입니다.

1. 제1 청크는 사전학습된 초기 Wdown으로 처리합니다.

2. 제1 청크의 Z와 목표 V로 업데이트 델타를 계산해 다음 상태의 Wdown을 만듭니다.

3. 제2 청크는 갱신된 Wdown으로 처리하고, 다시 제3 청크를 위한 업데이트를 계산합니다.

4. 현재 청크의 출력은 업데이트 이전 상태로 만들어지므로, 현재 청크가 자기 자신의 정답을 미리 반영하는 누출을 피합니다.

기존 TTT 층은 attention을 대체하는 token mixer 역할까지 맡았기 때문에 작은 청크가 필요했습니다. 반면 In-Place TTT는 attention이 청크 내부의 세밀한 토큰 상호작용을 담당하고, MLP fast weights는 청크를 넘어가는 적응 상태를 담당합니다. 이 역할 분담 덕분에 512 또는 1024와 같은 큰 청크에서도 성능이 좋았다는 것이 논문의 설명입니다.

수식·구현 설명에 나오는 용어를 먼저 확인해 보세요

로짓: AI가 다음 토큰의 확률을 구하기 전에 계산하는 점수입니다.
임베딩: 글의 작은 단위인 토큰을 여러 숫자의 묶음으로 나타낸 표현입니다.
Frobenius norm: 행렬 안의 숫자를 각각 제곱해 더한 뒤 제곱근을 구한 값입니다. 갱신의 크기를 측정할 때 사용합니다.
prefix scan: 앞에서부터 누적되는 계산 결과를 여러 작업으로 나누어 병렬로 구하는 방법입니다.
throughput: 같은 시간에 처리할 수 있는 토큰의 양입니다. 비교할 때 장치와 문서 길이 등의 조건을 함께 봐야 합니다.

4. 핵심 원리 3: 현재 토큰 복원이 아닌 다음 토큰 예측

기존 TTT는 대개 현재 입력 토큰의 표현을 복원하는 목표를 사용합니다. 하지만 언어모델이 실제로 잘해야 하는 일은 현재 토큰 자체를 재현하는 것이 아니라, 지금까지의 문맥을 바탕으로 다음 토큰을 예측하는 것입니다. 논문은 이 불일치를 핵심 문제로 봅니다.

제안된 목표값은 토큰 임베딩 X0에 1차원 convolution과 학습 가능한 projection Wtarget을 적용해 만듭니다. 식으로는 V̂ = Conv1D(X0) · Wtarget입니다. convolution 커널을 조절하면 다음 토큰 하나 또는 가까운 미래 토큰들의 조합을 목표에 담을 수 있습니다. 업데이트는 ΔWdown = η · V̂의 전치 · Z 형태로 단순화됩니다.

A 다음에 B가 나오는 패턴으로 이해하기
문맥 앞부분에서 A 다음에 B가 등장했고, 뒤에서 A가 다시 나왔다고 가정해 보겠습니다. Reconstruction target은 A를 보며 A의 표현을 저장하는 경향이 있습니다. LM-aligned target은 A를 보며 다음에 나온 B의 표현을 저장합니다. 따라서 A가 다시 나타날 때 B의 로짓을 올리는 방향으로 fast weights가 작동할 수 있습니다.

5. 이론 분석: 왜 정답 토큰의 로짓이 올라가는가

논문의 Theorem 1은 induction head 형태의 단순화된 상황을 분석합니다. 앞에서 키 토큰과 그 다음 값 토큰이 한 번 등장하고, 뒤에서 같은 키가 다시 나타났을 때 다음 값 토큰을 맞혀야 하는 상황입니다. 토큰 임베딩이 서로 거의 직교하고, 같은 키의 중간 활성값이 정렬된다는 가정 아래 LM-aligned target은 정답 토큰의 기대 로짓을 유의미하게 증가시키고 다른 토큰의 로짓은 거의 바꾸지 않습니다. 반면 reconstruction target은 정답 로짓을 올린다고 보장되지 않습니다.

이론 결과를 읽는 정확한 방법
이 정리는 실제 모든 LLM과 모든 입력에 대한 보장이 아닙니다. 임베딩의 근사 직교성과 key-query alignment라는 가정을 둔 기대값 분석입니다. 따라서 실험 결과를 설명하는 이론적 근거로는 유용하지만, 일반적인 성능 보증으로 확대해서 해석하면 안 됩니다.

6. Context Parallelism: 순차 업데이트를 병렬로 계산하는 방법

청크별 업데이트는 개념적으로 순차적이지만, 논문의 업데이트 델타는 더하기가 가능한 결합적 형태입니다. 연구진은 이 성질을 이용해 각 청크의 ΔW를 병렬로 계산하고, exclusive prefix sum으로 각 청크 직전까지의 누적 업데이트를 구한 뒤, 각 청크에 필요한 유효 Wdown과 출력을 병렬 계산합니다.

1. 모든 청크에서 중간 활성값 Z와 업데이트 델타 ΔW를 병렬 계산합니다.

2. 현재 청크 이전까지의 델타만 합산하는 prefix scan을 수행합니다.

3. 초기 Wdown에 누적 델타를 더해 각 청크가 사용할 fast weights를 만들고 출력을 병렬 계산합니다.

청크 경계에서는 목표 생성용 convolution이 다른 청크의 미래 정보를 끌어오지 않도록 패딩과 경계를 관리합니다. 독립 문서가 끝나면 fast weights를 사전학습 상태로 리셋해 문서 간 정보 누출을 막습니다. Qwen3-4B의 장문 평가에서는 업데이트 델타의 Frobenius norm을 임계값 1e-5로 제한해 수치적 안정성을 확보했습니다.

구현 항목	논문 설정	의미
TTT 적용 층	매 여섯 번째 MLP 블록	일부 층만 적용해 상태 크기·비용 조절
목표 생성	kernel size 5 depthwise Conv1D + Wtarget	가까운 미래 토큰 예측 신호
초기화	Conv1D 0 초기화, Wtarget 희소 대각 초기화	초기 업데이트를 거의 0으로 유지
문서 경계	Wdown을 사전학습 상태로 리셋	독립 시퀀스 사이의 context leakage 방지
안정화	업데이트 norm clipping	긴 시퀀스에서 누적 업데이트 폭주 방지

7. 실험 결과: LLM 장기 컨텍스트 성능은 얼마나 좋아졌나

7.1 Qwen3-4B에 대한 drop-in continual training

연구진은 Qwen3-4B-Base와 여기에 In-Place TTT를 적용한 모델을 같은 continual training 커리큘럼으로 학습했습니다. 32k 길이에서 약 20B 토큰, 128k 길이에서 약 15B 토큰을 사용했고, 128k 단계에서는 YaRN으로 RoPE를 확장했습니다. 평가 지표는 장문 문맥 활용을 측정하는 RULER 평균 정확도입니다.

문맥 길이	Baseline	In-Place TTT	차이
4k	96.6	96.1	-0.5
8k	94.1	95.6	+1.5
16k	92.1	92.7	+0.6
32k	88.7	89.3	+0.6
64k	74.3	78.7	+4.4
128k	74.8	77.0	+2.2
256k	41.7	43.9	+2.2

가장 큰 개선은 64k에서 +4.4점입니다. 128k와 학습 길이를 넘어선 256k에서도 각각 +2.2점을 유지했습니다. 다만 4k에서는 오히려 0.5점 낮았습니다. 따라서 이 논문을 짧은 문맥에서도 항상 우월한 방법으로 요약하기보다는, 문맥이 길어질수록 이점이 커지는 경향으로 읽는 것이 정확합니다.

7.2 LLaMA-3.1-8B와 Qwen3-14B에서도 개선

같은 아이디어를 다른 모델 계열과 크기에 적용했을 때도 64k 성능이 개선됐습니다. LLaMA-3.1-8B는 81.6에서 83.7로, Qwen3-14B는 67.9에서 70.6으로 상승했습니다. Qwen3-14B에 YaRN을 함께 적용한 64k 설정에서도 81.3에서 82.5로 개선돼, 위치 임베딩 확장 기법과 병행할 수 있음을 보였습니다.

기반 모델	평가 설정	Baseline	In-Place TTT	차이
LLaMA-3.1-8B	RULER 64k	81.6	83.7	+2.1
Qwen3-14B	RULER 64k	67.9	70.6	+2.7
Qwen3-14B	64k + YaRN	81.3	82.5	+1.2

7.3 처음부터 학습했을 때의 비교

500M과 1.5B 규모에서는 Sliding Window Attention, Gated Linear Attention, DeltaNet, LaCT와 비교했습니다. Figure 2의 sliding window perplexity는 앞 문맥을 길게 제공했을 때 마지막 블록의 예측 난도가 얼마나 낮아지는지 보는 지표이며, 낮을수록 좋습니다. In-Place TTT는 2k에서 32k까지 두 모델 규모 모두에서 가장 낮은 perplexity를 보였습니다.

그림 2. 500M·1.5B 모델에서 문맥 길이가 늘어날수록 In-Place TTT의 perplexity가 경쟁 방법보다 낮게 유지된다. 출처: 논문 p. 9, Figure 2.

4B 모델에서는 Full Attention과 Sliding Window Attention 각각에 In-Place TTT를 더했습니다. 상식 추론 과제의 변화는 대체로 작았지만, 장문 RULER에서는 큰 개선이 나타났습니다.

아키텍처	지표	Baseline	In-Place TTT	차이
Full Attention	RULER 4k	45.77	49.98	+4.21
Full Attention	RULER 8k	38.09	43.82	+5.73
Full Attention	RULER 16k	6.58	19.99	+13.41
SWA	RULER 4k	14.77	28.33	+13.56
SWA	RULER 8k	9.91	26.80	+16.89
SWA	RULER 16k	5.07	7.57	+2.50

7.4 Ablation: 무엇이 실제로 중요했나

그림 3. 상태 크기, 청크 크기, LM-aligned objective의 구성 요소를 제거하며 성능을 비교한 결과. 출처: 논문 p. 10, Figure 3.

1. Fast weights 상태가 클수록 RULER 성능이 높아졌습니다. 이는 큰 MLP 행렬을 동적 상태로 재사용하는 설계의 장점을 뒷받침합니다.

2. 청크 크기는 512와 1024가 가장 경쟁력 있었고, 논문은 효율까지 고려하면 1024를 유리한 선택으로 봅니다.

3. 미래 토큰 정보를 만드는 Conv1D와 표현을 변환하는 Wtarget projection을 모두 사용할 때 성능이 가장 좋았습니다. Conv1D는 긴 문맥에, projection은 짧은 문맥에 특히 중요했습니다.

7.5 효율: 성능 향상에 비해 오버헤드는 작은가

그림 4. H800 환경에서 8k·32k·128k 문맥의 prefill throughput과 peak memory 비교. 논문은 해당 측정 조건에서 추가 비용이 작다고 평가합니다. 출처: 논문 p. 10, Figure 4.

그래프를 보면 In-Place TTT 적용 시 throughput은 소폭 낮아지고 메모리는 소폭 증가하지만, 특히 긴 문맥에서 attention 자체가 차지하는 비용에 비해 차이가 크지 않습니다. 다만 이 결론은 Nvidia H800, batch size 1, 논문 구현이라는 특정 조건의 prefill 측정입니다. 다중 사용자 서빙, decode 단계, 다양한 하드웨어의 비용까지 일반화한 결과는 아닙니다.

8. 논문이 실제로 입증한 것과 아직 입증하지 않은 것

구분	논문이 보여 준 범위	과도하게 확대하면 안 되는 해석
장기 문맥	RULER와 sliding window perplexity에서 개선	모든 장문 추론·에이전트 과제에서 자동으로 개선된다는 보장은 없음
모델 호환성	Qwen3·LLaMA 4B-14B에서 continual training	추가 학습 없이 임의 체크포인트에 즉시 적용되는 것은 아님
계속 학습	한 문서 또는 시퀀스 안에서 fast weights가 변화	문서 종료 시 리셋돼 세션 간 영구 지식은 유지되지 않음
효율성	H800 prefill에서 작은 throughput·memory 오버헤드	decode·대규모 배치·멀티테넌트 총비용은 미평가
안정성	norm clipping으로 장문 업데이트 안정화	악성 프롬프트·데이터 오염·fast-weight poisoning 미검증
이론	induction setting에서 LM-aligned target의 로짓 효과 분석	현실 전체를 포괄하는 보편 정리는 아님

가장 중요한 비판적 포인트
논문은 continual learning을 지향하지만, 실제 구현은 문서 경계에서 fast weights를 초기화합니다. 따라서 현재 단계의 In-Place TTT는 영구적 지식 업데이트라기보다 세션 내부의 적응형 메모리 또는 문맥 압축 장치로 보는 편이 정확합니다.

9. AI 특허 전문 변리사의 관점에서 본 발명의 중심

독립적인 특허 실무 해석

이 절은 논문에 공개된 기술을 바탕으로 한 아이피렉스의 검토 관점입니다. 논문 저자의 주장이나 특정 특허의 존재·등록 가능성·권리범위를 확인한 결과를 뜻하지 않습니다. 개별 출원 전략은 관련 선행기술, 공개 이력과 실제 발명의 차별점을 검토해 판단해야 합니다.

이 절은 논문 저자의 실험 주장과 구별되는 특허 실무적 해석입니다.

9.1 단일 요소보다 결합 관계가 중요하다

Fast weights, Test-Time Training, chunk-wise update, Transformer FFN을 메모리로 보는 관점, 미래 토큰 예측, prefix scan은 각각 선행 연구 축이 존재합니다. 따라서 특허성의 중심을 단순히 추론 중 가중치를 업데이트한다는 문구에 두면 넓지만 취약한 청구항이 될 가능성이 큽니다.

선행기술과의 대비 및 구체적인 구현 설명이 필요한 검토 대상으로 다음 세 층의 결합을 볼 수 있습니다.

1. 아키텍처 층: 사전학습 Transformer의 feed-forward block에서 마지막 출력 프로젝션을 fast weights로 선택해 구조 교체 없이 warm start가 가능하도록 한 점.

2. 목표 함수 층: 현재 토큰 복원이 아니라 하나 이상의 후속 토큰 정보를 포함하는 target representation을 생성해 언어모델의 다음 토큰 예측과 업데이트 방향을 맞춘 점.

3. 실행 층: 현재 청크에는 업데이트 전 행렬을 적용하고, 현재 청크에서 계산한 델타는 후속 청크에만 반영하며, 이를 exclusive prefix scan으로 병렬화한 점.

9.2 가상 청구항 검토 요소와 기술적 효과

구성요소	가상 청구항 검토 포인트	연결할 기술적 효과
Fast weights의 위치	feed-forward block의 output projection을 적응 파라미터로 지정	사전학습 구조 유지와 동적 적응
Apply-then-update	제1 청크 출력 후 델타로 제2 상태를 만들어 제2 청크에 적용	인과성 유지와 정보 누출 방지
LM-aligned target	현재 청크 임베딩에서 후속 토큰 정보를 포함한 목표 생성	다음 토큰 예측에 유용한 문맥 저장
청크 업데이트	토큰별이 아닌 복수 토큰 단위의 행렬 업데이트	토큰별 순차 업데이트 대비 병렬 처리 효율 향상
Prefix scan	청크 델타를 병렬 산출하고 이전 청크까지 누적해 각 청크에 적용	순차 의미와 context parallelism 양립
경계·안정화	문서 경계 리셋, norm clipping, near-zero initialization	문서 간 누출 방지·수치 안정성·초기 동작 보존

9.3 출원 전략과 권리행사 관점

1. 추론 방법 독립항과 별도로, fast weights를 학습 가능하게 만드는 continual training 방법 독립항을 검토할 수 있습니다.

2. Context parallel 구현은 하드웨어 효율이라는 별도 기술적 효과가 있으므로 병렬 처리 방법 또는 시스템 청구항으로 분리할 가치가 있습니다.

3. 장치, 서버 시스템, 컴퓨터 판독 가능 기록매체 범주를 함께 준비해 실시 주체와 집행 가능성을 보완하는 편이 좋습니다.

4. 서버 내부에서만 가중치가 변하는 공정은 외부에서 침해 입증이 어렵습니다. 모델 파일, 런타임 로그, 업데이트 상태 API, 오픈소스 코드, 성능·메모리 흔적과 연결되는 구성요소를 고려해야 합니다.

5. 논문 수치 중 장문 성능 개선과 작은 오버헤드는 소프트웨어 발명의 기술적 효과를 설명하는 자료로 유용하지만, 재현 가능한 실시예와 파라미터 범위를 명세서에 충분히 남겨야 합니다.

논문 공개와 특허 출원의 순서
한국 특허법 제29조에 따라 출원 전에 공중이 이용할 수 있게 된 논문 내용은 신규성·진보성 판단의 선행기술이 될 수 있습니다. 특허를 받을 권리가 있는 자의 공개 등에 대해서는 제30조의 공지예외를 검토할 수 있으나, 공개일부터 12개월 이내 출원과 해당 절차 등 요건을 충족해야 하며 출원일이 소급되지는 않습니다. 공개 논문을 읽었다는 사정만으로 그 기술의 출원 권리를 취득하는 것도 아닙니다. 실제 출원은 발명자·권리귀속·공개 시점·선행기술을 먼저 확인해야 합니다. 공식 공지예외 안내 · 특허법 제29조·제30조

10. 산업적 의미: 어디에 유용할 수 있나

In-Place TTT가 특히 매력적인 영역은 문맥이 길고, 같은 문서나 세션 안에서 패턴이 반복되며, 모든 토큰을 attention으로 다시 읽는 비용이 큰 작업입니다. 예를 들면 장문 계약서·특허 명세서 분석, 대규모 코드 저장소 이해, 긴 에이전트 작업 기록, 스트리밍 로그 분석, 세션 내 사용자 선호 적응이 있습니다.

반대로 fast weights가 입력에 의해 직접 갱신된다는 것은 공격 표면이 늘어날 수 있다는 뜻이기도 합니다. 악성 입력이 임시 메모리를 오염시키는지, 여러 사용자 요청을 어떻게 격리할지, 업데이트 상태를 언제 리셋할지, 감사 로그를 어떻게 남길지는 실제 서비스에서 중요한 설계 문제가 됩니다. 이 항목들은 논문에서 실험적으로 검증되지 않았습니다.

11. 결론

In-Place Test-Time Training은 LLM에 동적 적응 능력을 넣기 위해 완전히 새로운 아키텍처를 제안하지 않습니다. 이미 존재하는 MLP의 Wdown을 빠르게 바뀌는 상태로 재해석하고, 언어모델 목적에 맞는 target과 병렬 하드웨어에 맞는 chunk-wise scan을 설계합니다. 이 점이 기술적으로도, 특허적으로도 가장 흥미로운 부분입니다.

실험은 장문 RULER와 perplexity에서 의미 있는 개선을 보여 주지만, drop-in을 무학습 적용으로 오해해서는 안 됩니다. 35B 토큰 규모의 continual training이 사용됐고, fast weights는 문서 경계에서 리셋되며, 실제 에이전트·보안·멀티테넌트 환경은 아직 검증되지 않았습니다.

최종 평가
이 논문은 영구적으로 스스로 학습하는 LLM을 완성했다기보다, 사전학습 LLM의 내부 MLP를 세션별 적응 메모리로 전환하는 실용적 설계에 가깝습니다. 특허 관점에서는 개별 요소보다 Wdown의 in-place 적응, LM-aligned target, apply-then-update 인과성, context-parallel scan의 결합을 중심으로 봐야 합니다.

원문·관련 자료와 다음 읽을 글

논문 서지정보 및 버전 확인 — 본문 수치와 그림 설명은 v1을 기준으로 합니다.
ByteDance Seed의 공개 구현
아이피렉스의 AI·소프트웨어 특허 업무와 김용덕 대표 변리사 소개

본문 구조·원문 출처·분석 범위 업데이트: 2026년 10월 3일

AI 기술·특허 상담을 준비하고 계신가요?

입력·출력 예시와 처리 흐름도, 기존 방식과 달라진 구성, 비교 실험 자료, 기술 공개 일정을 정리해 주세요. 개별 기술의 선행기술과 차별점을 함께 살펴 출원 전략을 검토합니다.

아이피렉스 특허법률사무소
전화 02-556-1028 · 이메일 iplex@iplexlaw.co.kr
AI 특허 상담 준비 자료 확인하기 · 공식 홈페이지

인공지능 특허 변리사 김용덕 | 아이피렉스 특허법률사무소

아이피렉스 특허법률사무소 — Mon, 3 Aug 2026 13:29:50 +0900

아이피렉스 특허법률사무소는 인공지능(AI)·소프트웨어 기술의 작동 원리와 사업 방향을 함께 살펴 특허 출원과 권리 설계를 지원합니다. 김용덕 대표 변리사의 AI 분야 특허 분석·IP-R&D 프로젝트와 관련 저서를 바탕으로, 데이터 처리부터 모델의 학습·추론, 제품 적용까지 검토합니다.

AI 특허를 어떻게 검토하나요?

AI 특허는 인공지능 기술의 구체적인 처리 방법이나 시스템 구성을 발명으로 다루는 특허입니다. 청구항은 특허로 보호받으려는 범위를 정리한 문장입니다. 상담에서는 기술의 이름과 함께 데이터가 처리되는 순서, 각 구성의 역할, 기존 방식과의 차이를 확인합니다.

설명용 예시: AI로 공장 불량을 찾는 서비스
제품 사진을 입력받아 불량을 찾는다면, 사진의 잡음을 줄이는 전처리, 작은 결함을 구별하는 모델 구성, 판단 결과에 따라 검사 순서를 정하는 제어 방법을 나누어 살펴볼 수 있습니다. 각 단계의 차별점이 어떻게 작동하고 어떤 조건에서 효과가 있는지 정리한 뒤, 청구항에 포함할 구성을 검토합니다.

공개 이력에서 확인하실 수 있는 AI 업무 경험

2018년: AI·빅데이터 기반 스마트 제조 IP 분석
2020년: AI 기반 의료영상·생체신호 분석 관련 특허 분석, 머신러닝 기반 RNA 분석 도구 개발 IP-R&D
2022년: 딥러닝 기반 차량용 레이더 센서의 보행자 인식 기술 IP-R&D

IP-R&D는 특허 정보를 연구개발에 연결해 기술의 차별점과 권리화 방향을 검토하는 활동입니다. 위 이력에는 이전 근무처에서 수행한 업무도 포함됩니다. 구체적인 활동은 공식 프로필에서 확인하실 수 있습니다.

AI 특허 실무를 다룬 저서
『인공지능 특허 심사실무 가이드』(2022), 『인공지능 특허 확보 전략』(2024), 『오픈AI의 특허 전략과 글로벌 AI 특허 경쟁』(2025)을 통해 AI 기술의 특허 검토와 권리 확보 쟁점을 정리했습니다.

상담에는 이런 자료가 도움이 됩니다. 입력·출력 예시, 데이터 처리·학습·추론 흐름도, 기존 방식과 비교한 성능 및 평가 조건, 논문·제품 출시 등의 공개 일정, 목표 국가를 준비해 주세요. 자료별 준비 방법과 LLM 기술의 특허 검토 사례도 확인하실 수 있습니다.

이 글에서 확인할 내용

아이피렉스의 지향점과 전문성
스타트업·벤처기업을 위한 특허 전략
AI·IT·소프트웨어 특허 전문성
기계·전기전자·융복합 기술 권리화
김용덕 대표 변리사의 경력과 프로젝트
연구와 저술로 검증되는 전문성
출원·등록·분석·사업화 서비스 체계

아이피렉스의 지향점과 전문성

특허 출원을 넘어 기술·사업·시장 관점에서 권리를 설계하는 IP 파트너

아이피렉스 특허법률사무소는 인공지능, IT, 소프트웨어, 기계, 전기·전자 등 기술집약적 산업의 특허 출원과 등록을 중심으로 기업의 지식재산 전략을 지원하는 특허법률사무소입니다. 발명 내용을 문서로 옮기는 데 머무르지 않고, 기술의 작동 원리와 차별화 요소, 사업 모델, 경쟁사의 회피 가능성, 제품과 서비스의 확장 방향을 함께 검토하여 기업이 실제로 활용할 수 있는 권리범위를 설계하는 것을 지향합니다.

아이피렉스 전문가들은 전·현직 업무 수행 경험을 기준으로 5,000건 이상의 기업 관련 사건을 처리했으며, 스타트업부터 국내외 유수 기업까지 다양한 조직과 업무를 수행했습니다.

특허의 가치는 등록증의 존재 자체보다 기업의 핵심 기술을 어느 범위까지 보호하고, 경쟁사의 모방과 우회설계를 얼마나 어렵게 하며, 투자·기술평가·사업제휴·해외 진출 과정에서 어떻게 활용되는지에 따라 달라집니다. 아이피렉스는 특허 출원 단계에서부터 발명의 핵심 구성과 부가적인 요소 기술을 구분하고, 현재 제품뿐 아니라 다음 버전과 인접 시장으로 확장될 수 있는 구현 형태를 검토합니다.

특히 초기 기업은 개발 일정과 외부 공개, 투자 미팅, 정부지원사업, 제품 출시가 동시에 진행되는 경우가 많습니다. 이때 특허 전략이 늦어지면 신규성 상실 위험이 발생하고, 서둘러 출원하면 실제 핵심 기술이 청구항에 충분히 반영되지 않을 수 있습니다. 아이피렉스는 발명자와 담당자의 설명을 기술 구조로 재정리하고, 우선 출원할 내용과 후속 출원으로 축적할 내용을 나누어 예산과 일정에 맞는 포트폴리오를 제안합니다.

스타트업·벤처기업을 위한 특허 전략

한정된 자원으로 핵심 기술을 선별하고 기업 성장 단계와 연결하는 권리화

스타트업 특허는 단순한 법률 절차가 아니라 사업 전략의 일부입니다. 창업 초기에는 기술력을 객관적으로 설명하는 자료가 되고, 투자 유치와 정부지원사업에서는 독자적인 기술을 보유하고 있다는 근거로 활용될 수 있습니다. 사업이 성장한 뒤에는 경쟁사의 모방을 제한하고 공동개발이나 라이선스 협상에서 협상력을 높이며, 기술평가와 기술특례상장을 준비하는 과정에서는 핵심 기술의 권리성과 시장성을 구조화해 보여주는 자산이 됩니다.

동일한 발명도 어떤 관점에서 기술적 과제를 정의하고, 어떤 구성요소를 필수 요소로 설정하며, 독립항과 종속항을 어떻게 배치하는지에 따라 활용성이 크게 달라집니다. 현재 구현된 세부 기능만 좁게 보호하면 경쟁사가 일부 구성을 변경해 권리를 회피할 수 있습니다. 반대로 발명의 개념을 지나치게 추상적으로 표현하면 선행기술과 구별되지 않거나 소프트웨어 발명에서 요구되는 구체적인 기술 수단과 효과를 충분히 설명하지 못할 수 있습니다.

아이피렉스는 발명 상담 과정에서 제품과 서비스의 사용자 흐름, 데이터 흐름, 장치 구성, 제어 로직, 수익 모델, 경쟁사 제품과의 차이, 향후 추가 기능을 함께 확인합니다. 그 결과 하나의 아이디어를 핵심 발명, 보완 발명, 방어적 발명으로 나누고 출원 순서를 정할 수 있습니다. 기술 공개가 임박한 경우에는 우선 핵심 내용을 빠르게 출원한 뒤 개발 결과에 따라 후속 출원이나 국내우선권 활용을 검토하는 방식도 고려할 수 있습니다.

좋은 스타트업 특허 포트폴리오는 특허 개수만 많지 않습니다. 회사가 실제로 개발하고 판매하는 기술과 청구항이 대응하고, 경쟁사의 대체 방식을 예상해 복수의 권리축을 만들며, 투자자와 평가자가 핵심 기술의 보호 구조를 쉽게 이해할 수 있어야 합니다. 아이피렉스는 출원 목적을 등록, 투자, 조달, 기술평가, 해외 진출, 분쟁 예방 중 어디에 두는지 먼저 확인하고 그 목적에 맞춰 권리범위와 일정을 설계합니다.

AI·IT·소프트웨어 특허 전문성

데이터 수집부터 학습·추론·후처리·서비스 적용까지 기술 흐름을 세분화

인공지능 특허와 소프트웨어 특허는 서비스의 명칭이나 목표만 설명한다고 완성되지 않습니다. 입력 데이터가 무엇인지, 데이터가 어떤 방식으로 수집·정제·전처리되는지, 학습 모델과 추론 모델이 어떤 구조로 작동하는지, 출력 결과가 어떤 후처리를 거쳐 사용자나 다른 시스템에 제공되는지, 기존 방식보다 정확도·속도·자원 효율성·보안성·사용 편의성이 어떻게 개선되는지를 구체적으로 표현해야 합니다.

하나의 AI 서비스에서도 학습 데이터 생성, 데이터 증강, 특징 추출, 모델 구조, 손실함수, 학습 방법, 모델 경량화, 하드웨어 최적화, 추론 결과 보정, 설명 가능성, 사용자 인터페이스, 산업별 적용 로직 등 여러 발명 포인트가 도출될 수 있습니다. 모든 요소를 하나의 청구항에 넣으면 권리범위가 지나치게 좁아질 수 있으므로, 핵심 기술별로 독립적인 보호 가능성을 검토하고 서로 연결되는 포트폴리오를 만드는 것이 중요합니다.

소프트웨어 발명에서는 단순한 업무 규칙이나 사업 아이디어와 구별되는 기술적 수단과 효과가 중요합니다. 서버와 단말의 역할, 데이터베이스 구조, API 호출 관계, 네트워크 통신, 사용자 입력에 따른 상태 변화, 처리 순서, 예외 처리와 보안 구조 등을 명세서에 충분히 설명해야 합니다. 플랫폼이나 애플리케이션의 화면 기능도 내부 처리 구조와 연결해 표현해야 경쟁 서비스의 유사 구현을 분석할 수 있는 권리가 됩니다.

아이피렉스는 김용덕 대표 변리사의 AI·IoT 분야 평가 경험, AI·빅데이터 기반 스마트 제조, 의료 영상·생체신호 분석, 머신러닝 기반 RNA 분석, 이상 탐지와 최적화, 차량용 레이더 센서 등 공개 프로젝트 경력을 바탕으로 AI 발명을 기술 언어와 특허 언어 사이에서 구조화합니다.

인공지능 기업에게 특허는 모델 자체만을 보호하는 수단이 아닙니다. 양질의 학습 데이터를 만드는 방식, 데이터셋의 편향을 줄이는 기술, 특정 산업 환경에서 성능을 유지하는 배포 구조, 제한된 연산 자원에서 작동하는 경량화 기술, 결과를 해석하고 오류를 보정하는 방식도 사업 경쟁력을 구성합니다. 아이피렉스는 개발팀의 설명을 세부 기술 단위로 분해해 공개 전 보호할 내용을 선별하고, 논문·오픈소스·제품 출시 일정과 충돌하지 않도록 출원 전략을 검토합니다.

기계·전기전자·융복합 기술 권리화

구조, 결합관계, 작동 원리와 제어 흐름을 연결하는 특허 명세서

기계 특허와 전기·전자 특허에서는 구성요소의 명칭을 나열하는 것보다 각 구성의 배치와 결합 관계, 작동 순서, 힘과 신호의 전달 경로, 센서와 제어부의 연동, 기존 구조와 비교한 효과를 정확히 표현하는 것이 중요합니다. 제품을 분해했을 때 보이는 외형적 구조뿐 아니라 어떤 조건에서 제어부가 동작하고 구동부가 어떤 결과를 만드는지까지 연결해 설명해야 강한 권리범위를 설계할 수 있습니다.

최근 제품은 기계 구조, 전자회로, 센서, 통신 모듈, 소프트웨어 제어가 결합된 경우가 많습니다. 프린터 장치를 예로 들면 카트리지와 헤드의 구조뿐 아니라 출력 데이터의 변환, 용지나 대상물의 위치 제어, 색상 보정, 오류 감지, 사용자 인터페이스까지 복수의 발명이 존재할 수 있습니다. 하나의 제품을 구조 특허, 제어 특허, 데이터 처리 특허, 사용 방법 특허로 나누어 검토하면 경쟁사의 회피 경로를 줄일 수 있습니다.

기계·전기전자 스타트업은 시제품 제작 과정에서 설계가 빠르게 변경되므로 출원 시점의 선택이 중요합니다. 너무 이른 단계에는 구현 정보가 부족할 수 있고, 너무 늦으면 전시·판매·납품 과정에서 기술이 공개될 수 있습니다. 아이피렉스는 핵심 원리가 확정된 시점에 우선 출원하고, 양산 설계와 제어 로직이 구체화된 뒤 추가 출원을 검토하는 단계적 전략을 제시할 수 있습니다.

김용덕 대표 변리사의 경력과 프로젝트

공학적 이해, 기술평가, 기업 자문과 특허 실무를 결합한 전문성

김용덕 대표 변리사

• 조달청 인공지능·IoT 분야 우수제품 평가위원 경력
• 기술특례상장 시장성·권리성 평가위원 경력
• 숙명여자대학교 인공지능공학부 특허 전담 변리사
• 지식재산경영인증 심사위원·대한변리사회 전문 강사
• 서울지식재산센터 기술보호지원단 전문가
• 스타트업 평가·투자심의·멘토링 및 다수 IP 교육 경력

김용덕 대표 변리사의 공식 프로필에는 제50회 변리사시험 합격, 대한변리사회와 아시아변리사협회 회원, 기술특례상장 평가, 특허품질평가, 투자심의, 스타트업 평가, 지식재산경영인증 심사, 대학 및 창업기관 강의·멘토링 경력이 있습니다. 이러한 경력은 출원 대리인의 관점뿐 아니라 기술평가자, 투자·사업화 자문자, 교육자의 관점에서 기업의 기술과 특허를 검토할 수 있는 기반이 됩니다.

김용덕 변리사가 수행한 프로젝트에는 LG전자 사용자 인터페이스 특허 분쟁 대비 분석, AI·빅데이터 기반 스마트 제조 IP 분석, 지능형 빅데이터 분석 플랫폼 IP R&D, 마이크로소프트 사용자 인터페이스 특허 분석, AI 기반 의료 영상과 생체신호 분석, 머신러닝 기반 RNA 분석 도구, 산업 특화 AI의 이상 탐지와 최적화 전략, 딥러닝 기반 차량용 레이더 센서의 보행자 인식 기술 등이 포함됩니다. 기계 장치, 의료기기, 반도체 설비와 RFID 시스템, 휴대용 프린터 관련 분쟁 위험 진단 등도 수행한 경험이 있습니다. 즉, 김용덕 변리사는 융복합 기술에 대한 폭넓은 경험을 보유하고 있습니다.

다양한 기술 분야를 다룬 경험은 하나의 스타트업 발명이 여러 산업에 걸쳐 있을 때 강점으로 작용합니다. 의료 AI에는 의료 데이터, 소프트웨어, 센서와 전자장치가 결합되고, 스마트팩토리에는 기계 설비, 제어 알고리즘, 통신과 데이터 분석이 함께 적용됩니다. 폭넓은 프로젝트 경험은 보호해야 할 요소를 하나의 산업 분류에 가두지 않고, 기술 전체의 연결 구조에서 발명 포인트를 찾는 데 도움이 됩니다.

연구와 저술로 검증되는 전문성

AI 특허, 기술특례상장, 조달, 온라인 플랫폼 분쟁을 실무서로 체계화

아이피렉스의 차별점은 사건 수행 경험을 전문서 집필과 연구로 연결한다는 데 있습니다. 변리사 업무는 제도와 판례, 심사기준, 기술 트렌드가 계속 변하기 때문에 새로운 쟁점을 연구하고 이를 설명 가능한 체계로 정리하는 과정이 필요합니다. 김용덕 대표 변리사는 인공지능 특허, 기술특례상장, 조달청 우수제품, 상표와 디자인, 권리이전, 글로벌 AI 특허 경쟁, 온라인 플랫폼 분쟁 등 기업이 실제로 마주하는 주제를 다수의 저서로 출간했습니다.

저술 활동은 단순한 이론 소개가 아니라 출원과 심사 대응, 기술평가, IP 분석, 권리 활용과 분쟁 대응 과정에서 축적한 실무를 구조화하는 작업입니다. 고객의 기술을 설명할 때에도 왜 특정 구성을 독립항에 두는지, 심사 과정에서 어떤 거절이유가 예상되는지, 기술평가에서 특허와 핵심 기술의 대응 관계를 어떻게 보여줄지를 명확하게 설명할 수 있는 기반이 됩니다.

기술특례상장 바이블 2022	인공지능 특허 심사실무 가이드 2022	조달청 우수제품 지정 성공전략 2024
인공지능 특허 확보 전략 2024	오픈AI의 특허 전략과 글로벌 AI 특허 경쟁 2025	쿠팡 특허·상표·디자인 분쟁 해결 바이블 2025

『인공지능 특허 심사실무 가이드』와 『인공지능 특허 확보 전략』은 AI 발명을 데이터 수집, 전처리, 학습 모델, 물리적 구현, 후처리와 활용 단계로 나누어 권리화 관점을 설명합니다. 『오픈AI의 특허 전략과 글로벌 AI 특허 경쟁』은 오픈AI와 글로벌 빅테크의 특허 확보 흐름, AI 스타트업의 활용법, 오픈소스와 특허의 균형, 글로벌 규제 환경을 다룹니다.

이 밖에도 『상표 유사 판단 이론 및 판례』, 『디자인 보호법 디자인을 보호하라』 등의 주요 저서가 있습니다. 출원, 등록, 기술평가, 조달, 권리 활용과 분쟁까지 기업의 지식재산 활동 전 과정을 연구 주제로 다룬다는 점은 아이피렉스의 실무 범위와 전문성을 보여줍니다.

출원·등록·분석·사업화 서비스 체계

발명 발굴에서 특허 포트폴리오, 기술평가와 분쟁 예방까지

아이피렉스는 발명 상담, 선행기술 검토, 특허 명세서와 청구항 작성, 국내 출원, 심사청구, 거절이유 분석, 의견서와 보정서 작성, 등록 업무를 지원합니다. 해외 진출 기업에는 PCT 국제출원과 개별국 출원, 해외 상표와 디자인 확보, 현지 대리인과의 협업을 통한 사건 관리를 제공합니다. 국내 출원 단계에서부터 해외 출원 가능성을 고려하면 번역 과정에서 기술 의미가 축소되거나 국가별 심사에서 불필요한 제한이 발생하는 위험을 줄일 수 있습니다.

등록 가능성만을 보는 서비스와 기업의 사업 목적까지 연결하는 서비스는 접근 방식이 다릅니다. 제품 출시 전에는 경쟁사 특허와 침해 위험을 확인하고, 투자나 기술평가 전에는 핵심 기술과 보유 특허의 대응 관계를 점검하며, 해외 진출 전에는 국가별 출원 우선순위와 브랜드 보호 범위를 정해야 합니다. 아이피렉스는 선행기술 조사, 경쟁사 IP 분석, 자유실시 가능성 검토, 우회설계, 포트폴리오 진단과 기술사업화 관점의 컨설팅을 함께 수행할 수 있습니다.

아이피렉스 특허법률사무소의 기업가치향상 프로그램은 IP 전수조사, 기업 기술과 보유 IP의 매칭, 경쟁사 IP 분석, 모방을 방지하기 위한 IP 장벽 구축, 임직원 IP 교육을 주요 단계로 포함합니다. 이 구조는 출원 건별 대응을 넘어 기업이 보유한 기술과 권리의 빈틈을 찾고, 제품 로드맵에 따라 후속 출원을 축적하는 체계적인 IP 관리 방식입니다.

기술특례상장을 준비하는 기업은 특허 개수보다 핵심 기술을 실제로 보호하는 권리범위, 경쟁사 대비 차별성, 모방 난이도, 사업과 특허의 연관성을 설명할 수 있어야 합니다. 김용덕 대표 변리사의 기술평가 경력과 관련 저술은 평가 지표의 관점에서 특허 포트폴리오와 기술사업계획서를 검토하는 기반이 됩니다. 조달시장 진입 기업은 우수제품 지정과 연결되는 특허·실용신안·디자인의 구조를 검토하고, 온라인 판매기업은 상품 등록 전에 타인의 권리와 자사 권리 확보 상황을 점검해 판매정지 위험을 낮출 수 있습니다.

아이피렉스의 업무 진행 원칙

01 기술 이해
발명자의 설명을 제품 구조, 데이터 흐름, 제어 순서와 기술적 효과로 재구성합니다.

02 발명 발굴
현재 아이디어 외에 보호할 수 있는 요소 기술과 후속 구현을 함께 검토합니다.

03 권리 설계
등록 가능성과 사업 활용성, 경쟁사의 회피 가능성을 균형 있게 반영합니다.

04 일정 관리
외부 공개, 투자, 지원사업, 제품 출시와 해외 우선권 일정을 연결합니다.

05 활용 전략
등록 후 기술평가, 조달, 투자, 라이선스, 분쟁 예방에 활용할 수 있도록 관리합니다.

좋은 특허는 어려운 기술 용어가 많이 들어간 문서가 아닙니다. 발명의 핵심을 정확하게 정의하고, 선행기술과의 차이를 논리적으로 설명하며, 경쟁사의 모방과 회피 가능성을 고려한 청구항을 갖추고, 기업의 실제 제품과 서비스에 연결되는 특허가 좋은 특허입니다.

아이피렉스 특허법률사무소는 인공지능, IT, 소프트웨어, 기계, 전기·전자 분야에 대한 기술적 이해와 전·현직 기준 5,000건 이상의 기업 사건 수행 경험, 기술평가와 스타트업 멘토링 경험, 국내외 기업의 지식재산권 업무 경험, 지속적인 연구와 다수의 전문서 집필을 바탕으로 기업의 기술을 사업 자산으로 전환하는 특허 전략을 제공합니다.

기술 공개나 제품 출시를 앞두고 있다면 먼저 발명의 핵심과 공개 일정을 정리해 보세요. 아이피렉스는 스타트업과 기술기업의 특허 출원, 포트폴리오 구축, 해외 진출과 분쟁 예방을 기술·사업 관점에서 검토합니다.

기술을 이해하고, 사업에 필요한 특허를 설계합니다

상담 전에 준비하면 좋은 자료

입력·출력 예시: 어떤 데이터가 들어가고 어떤 결과가 나오는지 정리해 주세요.
기술 흐름: 데이터 전처리, 모델 학습, 추론, 결과 처리의 순서와 역할을 흐름도나 도면으로 보여 주세요. 추론은 학습한 모델로 새로운 입력의 결과를 구하는 과정입니다.
기존 방식과의 차이: 처리 속도, 정확도, 메모리 사용량 등 개선한 항목과 비교 대상·평가 조건을 알려 주세요.
공개 이력과 일정: 논문, 전시, 투자 미팅, 제품 출시 등 이미 공개한 내용과 예정일을 정리해 주세요.
사업 계획: 목표 국가, 출원 예산, 제품 적용 계획을 알려 주세요.

개별 사건의 등록 가능성, 권리범위와 일정은 기술 및 선행기술 검토에 따라 달라집니다. 공개 전에 출원 전략을 점검해 보세요.

아이피렉스 특허법률사무소
전화 02-556-1028 · 이메일 iplex@iplexlaw.co.kr
공식 홈페이지에서 업무 분야 확인하기

공개 경력과 관련 글

위 경력·프로젝트에는 현재 및 과거 활동과 이전 근무처에서 수행한 업무가 포함됩니다. 5,000건 이상의 사건 수행 경험은 전·현직 업무 기준이며, 사무소 단독 등록 실적을 뜻하지 않습니다.

AI 전문 분야·본문 구조·상담 안내 업데이트: 2026년 10월 3일