特許異議申立
2024-700734
印刷物に印刷された文字情報を収集する方法、プログラム及び情報処理装置
- 審判番号
- 2024-700734
- 法域
- 特許
- 審判種別
- 異議申立(異議の決定)
- 出願番号
- 特願2023-161674
- 登録番号
- 7430437
- 請求日
- 2024年08月05日
- 審決日
- 2025年03月25日
- 公報発行日
- 2025年07月25日
- 結論
- 訂正認容
- 当事者
- 【権利者】株式会社ZISEDAI
- 【権利者代理人】松下 昌弘
- 【異議申立人】芦田 允予
- 【異議申立人代理人】▲高▼野 芳徳
- 【異議申立人代理人】杉尾 雄一
- 【異議申立人】国分 信宏
- 【異議申立人】塩田 将司
- 審判長/審判官
- 審判長 千葉 輝久
- 審判官 伊藤 隆夫
- 審判官 坂本 聡生
- 分類
- P1651.113-YAA(G06F) / P1651.121-YAA(G06F) / P1651.537-YAA(G06F)
- 条文(本文から自動抽出・参考)
- 特許法第29条第2項、特許法第36条第6項第2号、特許法第120条の5第2項、特許法第126条第5項、特許法第29条第1項第3号
- データ出所
- 審決公報(XML)
事件の表示
特許第7430437号発明「印刷物に印刷された文字情報を収集する方法、プログラム及び情報処理装置」の特許異議申立事件について、次のとおり決定する。
結論
結 論
特許第7430437号の特許請求の範囲を令和7年1月29日付け訂正請求書に添付された訂正特許請求の範囲のとおり、訂正後の請求項〔1、8-11〕について訂正することを認める。
特許第7430437号の請求項2ないし7、9ないし11に係る特許を維持する。
特許第7430437号の請求項1、8に係る特許についての特許異議の申立てを却下する。
理由
理 由
第1 手続の経緯
特許第7430437号(以下「本件特許」という。)の請求項1~11に係る特許についての出願は、令和5年9月25日を出願日とする出願であって、令和6年2月2日にその特許権の設定登録がされ、同年2月13日に特許掲載公報が発行されたものである。
その後、同年8月5日に特許異議申立人芦田允予(以下「申立人1」という。)により本件特許の請求項1、10、11に対して特許異議の申立て(以下「特許異議の申立て1」という。)がされ、同年8月7日に特許異議申立人国分信宏(以下「申立人2」という。)により本件特許の請求項1に対して特許異議の申立て(以下「特許異議の申立て2」という。)がされ、同年8月13日に特許異議申立人塩田将司(以下「申立人3」という。)により本件特許の全請求項(請求項1~11)に対して特許異議の申立て(以下「特許異議の申立て3」という。)がされた。
そして、同年11月29日付けで取消理由が通知され、令和7年1月29日に特許権者により訂正請求がされた。
第2 令和7年1月29日の訂正請求による訂正の適否
1 訂正の内容
(1) 訂正事項
令和7年1月29日の訂正請求による訂正(以下、「本件訂正」という。)事項は以下のア~オ(以下「訂正事項1」~「訂正事項5」という。)のとおりである。
ア 訂正事項1
請求項1を削除する。
イ 訂正事項2
請求項8を削除する。
ウ 訂正事項3
請求項9が引用する他の請求項を、「請求項1~請求項8のいずれか一項」から「請求項2~請求項7のいずれか一項」に訂正する。
エ 訂正事項4
請求項10が引用する他の請求項を、「請求項1~請求項8のいずれか一項」から「請求項2~請求項7のいずれか一項」に訂正する。
オ 訂正事項5
請求項11が引用する他の請求項を、「請求項1~請求項8のいずれか一項」から「請求項2~請求項7のいずれか一項」に訂正する。
(2) 一群の請求項について
上記訂正事項1~5は、訂正前の請求項1、8~11についての訂正であり、訂正前の請求項9~11は、請求項1又は請求項8を直接引用するものであるから、本件訂正は一群の請求項〔1、8~11〕に対して請求されたものである。
2 訂正の適否
ア 訂正事項1
訂正事項1は、請求項1を削除するものであるから、特許請求の範囲の減縮を目的とし、願書に添付した明細書、特許請求の範囲又は図面に記載した事項の範囲内においてしたものであり、実質上特許請求の範囲を拡張し、又は変更するものではない。
イ 訂正事項2
訂正事項2は、請求項8を削除するものであるから、特許請求の範囲の減縮を目的とし、願書に添付した明細書、特許請求の範囲又は図面に記載した事項の範囲内においてしたものであり、実質上特許請求の範囲を拡張し、又は変更するものではない。
ウ 訂正事項3
訂正事項3は、請求項1、8の削除に伴い、請求項9が引用する請求項から請求項1、8を削除し、請求項9が引用する請求項を「請求項2~請求項7」とするものであって、特許請求の範囲の減縮を目的とし、願書に添付した明細書、特許請求の範囲又は図面に記載した事項の範囲内においてしたものであり、実質上特許請求の範囲を拡張し、又は変更するものではない。
エ 訂正事項4
訂正事項4は、請求項1、8の削除に伴い、請求項10が引用する請求項から請求項1、8を削除し、請求項10が引用する請求項を「請求項2~請求項7」とするものであって、特許請求の範囲の減縮を目的とし、願書に添付した明細書、特許請求の範囲又は図面に記載した事項の範囲内においてしたものであり、実質上特許請求の範囲を拡張し、又は変更するものではない。
オ 訂正事項5
訂正事項5は、請求項1、8の削除に伴い、請求項11が引用する請求項から請求項1、8を削除し、請求項11が引用する請求項を「請求項2~請求項7」とするものであって、特許請求の範囲の減縮を目的とし、願書に添付した明細書、特許請求の範囲又は図面に記載した事項の範囲内においてしたものであり、実質上特許請求の範囲を拡張し、又は変更するものではない。
3 小括
以上のとおり、一群の請求項1、8~11の訂正は、特許法第120条の5第2項ただし書第1号に掲げる事項を目的とするものであり、同法同条第9項で準用する特許法第126条第5項及び第6項の規定に適合するものである。
したがって、特許請求の範囲の請求項1、8~11について、訂正請求書に添付された訂正特許請求の範囲のとおり、訂正することを認める。
第3 本件発明について
上記第2の3のとおり、本件訂正は認められ、請求項1及び8は削除されたから、本件特許の請求項2~7、9~11に係る発明(以下、それぞれ「本件発明2」~「本件発明7」、「本件発明9」~「本件発明11」という。)は、訂正された特許請求の範囲の請求項2~7、9~11に記載された事項により特定される次のとおりのものである。なお、A~Mは、構成要件を区別するために当審で付与したものであり、以下、「構成A」~「構成M」という。
〔本件発明2〕【請求項2】
A 印刷物に印刷された文字情報を情報処理装置が収集する方法であって、
B 前記情報処理装置が、光学文字認識により前記印刷物の画像から読み取られた一群の文字列を取得する工程と、
C 前記情報処理装置が、所定の1以上の項目に関する1以上の前記文字情報を前記一群の文字列から抽出するように大規模言語モデルへ指示を与える第1プロンプトを生成する工程と、
D 前記情報処理装置が、生成した前記第1プロンプトを前記大規模言語モデルに提供し、当該第1プロンプトに応じて前記一群の文字列から抽出された1以上の前記文字情報を前記大規模言語モデルから取得する工程と、
E 前記情報処理装置が、前記一群の文字列から抽出する情報の種類に関する種類情報を取得する工程と
F を有し、
G 前記第1プロンプトを生成する工程は、前記種類情報が示す前記種類について定められた1以上の前記項目に関する1以上の前記文字情報を前記一群の文字列から抽出するように指示する前記第1プロンプトを生成することを含む、
A 方法。
〔本件発明3〕【請求項3】
前記種類情報を取得する工程は、
前記種類を特徴付ける所定のキーワードを前記一群の文字列において検索することと、
検索により見つかった前記キーワードに基づいて前記種類を判定することとを含む、
請求項2に記載の方法。
〔本件発明4〕【請求項4】
前記種類情報を取得する工程は、
所定の複数の前記種類から該当する1つの前記種類を前記一群の文字列に基づいて判定するように前記大規模言語モデルへ指示を与える第2プロンプトを生成することと、
生成した前記第2プロンプトを前記大規模言語モデルに提供し、当該第2プロンプトに応じて判定された前記種類を前記大規模言語モデルから取得することとを含む、
請求項2に記載の方法。
〔本件発明5〕【請求項5】
A 印刷物に印刷された文字情報を情報処理装置が収集する方法であって、
B 前記情報処理装置が、光学文字認識により前記印刷物の画像から読み取られた一群の文字列を取得する工程と、
C 前記情報処理装置が、所定の1以上の項目に関する1以上の前記文字情報を前記一群の文字列から抽出するように大規模言語モデルへ指示を与える第1プロンプトを生成する工程と、
D 前記情報処理装置が、生成した前記第1プロンプトを前記大規模言語モデルに提供し、当該第1プロンプトに応じて前記一群の文字列から抽出された1以上の前記文字情報を前記大規模言語モデルから取得する工程と
F を有し、
H 前記第1プロンプトを生成する工程は、少なくとも一部の前記項目について、前記一群の文字列から前記項目に関する前記文字情報を抽出する第1指示と、前記一群の文字列中の前記項目に関するキーワードに基づいて前記項目に関する関連情報をウェブ検索により収集する第2指示とを含んだ前記第1プロンプトを生成することを含み、
I 前記文字情報を取得する工程は、前記第1指示に応じて抽出された前記文字情報と、前記第2指示に応じて収集された前記関連情報とを前記大規模言語モデルから取得することを含み、
J 前記情報処理装置が、一の前記項目について前記大規模言語モデルから取得した前記文字情報を、当該一の項目について取得した前記関連情報に応じて修正する工程を有する、
A 方法。
〔本件発明6〕【請求項6】
文字情報を修正する工程は、前記関連情報のウェブ上での公開日が前記印刷物の発行日より後の場合、前記文字情報を前記関連情報に応じて修正することを含む、
請求項5に記載の方法。
〔本件発明7〕【請求項7】
A 印刷物に印刷された文字情報を情報処理装置が収集する方法であって、
B 前記情報処理装置が、光学文字認識により前記印刷物の画像から読み取られた一群の文字列を取得する工程と、
C 前記情報処理装置が、所定の1以上の項目に関する1以上の前記文字情報を前記一群の文字列から抽出するように大規模言語モデルへ指示を与える第1プロンプトを生成する工程と、
D 前記情報処理装置が、生成した前記第1プロンプトを前記大規模言語モデルに提供し、当該第1プロンプトに応じて前記一群の文字列から抽出された1以上の前記文字情報を前記大規模言語モデルから取得する工程と
F を有し、
K 前記第1プロンプトを生成する工程は、少なくとも一部の前記項目について、前記一群の文字列から前記項目に関する前記文字情報を抽出する第1指示と、前記一群の文字列中の前記項目に関するキーワードに基づいて前記項目に関する関連情報をウェブ検索により収集する第2指示と、前記第2指示に応じて一の前記項目について収集された前記関連情報から、当該一の項目についての前記文字情報を抽出する第3指示とを含んだ前記第1プロンプトを生成することを含み、
L 前記文字情報を取得する工程は、前記第1指示に応じて前記一群の文字列から抽出された前記文字情報と、前記第3指示に応じて前記関連情報から抽出された前記文字情報とを前記大規模言語モデルから取得することを含み、
M 前記情報処理装置が、一の前記項目について前記第1指示に応じて前記一群の文字列から抽出された前記文字情報を、当該一の項目について前記第3指示に応じて前記関連情報から抽出された前記文字情報に応じて修正する工程を有する、
A 方法。
〔本件発明9〕【請求項9】
前記情報処理装置が、前記印刷物に表が印刷されている場合において、当該印刷物の前記表から光学文字認識により読み取られた表データを取得する工程を有し、
前記第1プロンプトを生成する工程は、前記印刷物の前記表から読み取られた前記表データを取得した場合、前記一群の文字列及び前記表データから前記文字情報を抽出するように指示する前記第1プロンプトを生成することを含む、
請求項2~請求項7のいずれか一項に記載の方法。
〔本件発明10〕【請求項10】
印刷物に印刷された文字情報を収集する処理を情報処理装置に行わせる命令を含んだプログラムであって、
前記命令に従って前記情報処理装置が行う処理は、請求項2~請求項7のいずれか一項に記載された方法の各工程を含む、
プログラム。
〔本件発明11〕【請求項11】
印刷物に印刷された文字情報を収集する処理を行う情報処理装置であって、
処理部と、
前記処理部において実行される命令を記憶した記憶部とを有し、
前記処理部が前記命令に従って行う処理は、請求項2~請求項7のいずれか一項に記載された方法の各工程を含む、
情報処理装置。
第4 取消理由通知に記載した取消理由について
当審において特許権者に通知した取消理由の概要は、次のとおりである。
理由1(進歩性)
請求項1、8、10、11に係る発明は、本件特許出願前に日本国内又は外国において、頒布された刊行物に記載された発明又は電気通信回線を通じて公衆に利用可能となった発明(引用文献1に記載された発明、及び引用文献2、3に記載された技術事項に例示される周知の技術事項)に基いて、本件特許出願前にその発明の属する技術の分野における通常の知識を有する者が容易に発明をすることができたものであるから、請求項1、8、10、11に係る特許は、特許法第29条第2項の規定に違反してされたものである。
引用文献1: Vincent Perot et al.、「LMDX: LANGUAGE MODEL-BASED DOCUMENT INFORMATION EXTRACTION AND LOCALIZATION」、[online]、令和5年9月19日、インターネット<URL: https://arxiv.org/pdf/2309.10952v1>(申立人1が提出した甲第1号証であって、申立人3が提出した甲第1号証。)
引用文献2: おがた さとし、「ChatGPT で抽出 & フォーマットのタスクをするときのテクニック」、[online]、令和5年3月13日、インターネット<URL:https://qiita.com/ogatango/items/3ef5e7e87f66ed971411>(申立人1が提出した甲第2号証。)
引用文献3: tt-tsukumochi、「chatgpt-prompt-engineering-for-developersで学ぶプロンプトエンジニアリング【ChatGPT】」、[online]、令和5年6月8日、インターネット<URL:https://tt-tsukumochi.com/archives/8052>(申立人1が提出した甲第3号証。)
第5 特許異議申立理由
特許異議申立理由の概要は、次のとおりである。
1 特許異議の申立て1
(1) 申立理由
ア 申立理由1-1(甲第1号証を主引例とした進歩性)
本件特許の請求項1、10、11に係る発明は、甲第1号証に記載された発明及び甲第2~6号証に記載された技術事項に基づいて、当業者が容易に発明をすることができたものであるから、特許法第29条第2項の規定により特許を受けることができない。
イ 申立理由1-2(甲第2号証を主引例とした進歩性)
本件特許の請求項1、10、11に係る発明は、甲第2号証に記載された発明及び甲第1、8~10号証に記載された技術事項に基づいて、当業者が容易に発明をすることができたものであるから、特許法第29条第2項の規定により特許を受けることができない。
(2) 証拠方法
甲第1号証: Vincent Perot et al.、「LMDX: LANGUAGE MODEL-BASED DOCUMENT INFORMATION EXTRACTION AND LOCALIZATION」、令和5年9月19日
甲第2号証: おがた さとし、「ChatGPT で抽出 & フォーマットのタスクをするときのテクニック」、[online]、令和5年3月13日、インターネット<https://web.archive.org/web/20230318091757/https://qiita.com/ogatango/items/3ef5e7e87f66ed971411>
甲第3号証: tt-tsukumochi、「chatgpt-prompt-engineering-for-developersで学ぶプロンプトエンジニアリング【ChatGPT】」、[online]、令和5年6月8日、インターネット<https://web.archive.org/web/20230917131749/https://tt-tsukumochi.com/archives/8052>
甲第4号証: りすけん、「LangChainで対話テキストからイベント情報をまとめる1」、[online]、令和4年12月31日、インターネット<https://note.com/sator926/n/n592cda4756f0>
甲第5号証: sasami_axis、「Microsoft365管理センターのサービス正常性のメール通知を翻訳してTeamsチャネルに投稿するPowerAutomateクラウドフロー(2/2) OpenAI API Completionにお任せ版」、[online]、令和5年6月28日、インターネット<https://web.archive.org/web/20230628021039/https:/sasami-axis.hatenablog.com/entry/2023/06/28/110925>
甲第6号証: 特許第7349219号公報
甲第7号証: YouTube動画「ChatGPTで使える裏技11選【みんなが知らない秘密のテクニック集】」及び反訳書面、令和4年4月11日
甲第8号証: 特開2021-165967号公報
甲第9号証: 「シナモン、技術文書デジタル化とナレッジ活用をワンストップで行うAI-OCR「ぜんぶよむもんLLMオプション」を提供開始」、[online]、令和5年7月18日、株式会社アールジーン、インターネット<https://web.archive.org/web/20230719103641/https:/iotnews.jp/manufacturing/229780/>
甲第10号証: 逆瀬川、「ChatGPT APIのFunction callingを使って、請求書の構造化データを抽出する」、令和5年7月18日、インターネット<https://web.archive.org/web/20230719163226/https:/gihyo.jp/article/2023/07/programming-with-chatgpt-04>
2 特許異議の申立て2
(1) 申立理由
ア 申立理由2-1(甲第1号証を主引例とした新規性)
本件特許の請求項1に係る発明は、甲第1号証に記載された発明であるから、特許法第29条第1項第3号に該当し、特許を受けることができない。
イ 申立理由2-2(甲第1号証を主引例とした進歩性)
本件特許の請求項1に係る発明は、甲第1号証に記載された発明、又は、甲第1号証に記載された発明及び甲第2~7号証に記載された技術事項に基づいて、当業者が容易に発明をすることができたものであるから、特許法第29条第2項の規定により特許を受けることができない。
(2) 証拠方法
甲第1号証: Vincent Perot et al.、「LMDX: Language Model-based Document Information Extraction and Localization」、[online]、2024年6月21日、p.1, 3, 4, 5, 19、インターネット:<URL:https://arxiv.org/pdf/2309.10952.pdf>
なお、特許異議申立書に添付された証拠説明書によれば、甲第1号証の作成年月日が2023年9月19日とされているが、当該甲第1号証には「21 Jun 2024」と記載されており、その内容及びURLから見て、2024年6月21日にリバイスされたものと認められる。
甲第2号証: Alejandro Lopez-Lira and Yuehua Tang、「Can ChatGPT Forecast Stock Price Movements? Return Predictability and Large Language Models」、[online]、2023年4月22日、p.9、インターネット<URL:https://www.dirk.org/wp-content/uploads/2023/06/Can-ChatGPT-Forecast-Stock-Price-Movements.pdf>
なお、特許異議申立書に添付された証拠説明書によれば、甲第2号証の作成年月日が2023年6月22日とされており、この根拠は、2023年6月22日付けの他のWebページにおいて、甲第2号証の論文である「Can ChatGPT Forecast Stock Price Movements? Return Predictability and Large Language Models」を参照していることにあると解されるが、当該論文には複数のバージョンがあり、いずれのバージョンを参照しているのかは明らかでない。
当審で確認したところ、提出された甲第2号証(p.9のみ)は、バージョン2<https://arxiv.org/abs/2304.07619v2>と同一であることから、バージョン2の日付からみて、甲第2号証(p.9のみ)の内容は、令和5年4月22日に電気通信回線を通じて公衆に利用可能となったものと認められる。
甲第3号証: peko-peko、「OpenAIのChatAPIを利用した「ふりがな生成」サービスを作った」、[online]、2023年6月1日、インターネット<URL:https://zenn.dev/pekopeko/articles/ab9c8dde77a788>
甲第4号証: エル先生、「プロンプトエンジニアについて【後編】」、[online]、2023年4月17日,インターネット<URL:https://note.com/erusousui/n/nbb7a910e3ef6>
甲第5号証: sh1,「言語モデル(LMs) を効率的に利用するプロンプト基礎学習メモ」、[online]、2023年4月6日、インターネット<URL:https://shikaku-sh.hatenablog.com/entry/ai-prompt-basic-1>
甲第6号証: sergicalsix、「ChatGPTの進化を辿る:最新研究論文12選」、[online]、2023年7月23日、インターネット<URL:https://qiita.com/sergicalsix/items/f28064ce8894f114017f>
甲第7号証: genkAIjokyo、「汎用性の高い効果的なChatGPTのCustom Instructionの設定8選」、[online]、2023年8月19日、インターネット<URL:https://note.com/genkaijokyo/n/n953e0867e454>
3 特許異議の申立て3
(1) 申立理由
ア 申立理由3-1(甲第1号証を主引例とした進歩性)
本件特許の請求項1~11に係る発明は、甲第1号証に記載された発明及び甲第2~17号証に記載された技術事項に基づいて、当業者が容易に発明をすることができたものであるから、特許法第29条第2項の規定により特許を受けることができない。
イ 申立理由3-2(明確性)
本件特許の請求項5、7に係る発明は明確ではないから、特許法第36条第6項第2号に規定する要件を満たしていない。
(2) 証拠方法
甲第1号証: Vincent Perot et al.、「LMDX: Language Model-based Document Information Extraction and Localization」、[online]、令和5年9月19日、インターネット<URL:https://arxiv.org/pdf/2309.10952v1>
甲第2号証: 「ChatGPTが「ウソ」をつかないプロンプトの書き方」、[online]、令和5年4月13日、インターネット<URL:https://note.com/satoshi60/n/n780540523055>
甲第3号証: インターテックリサーチ株式会社、「Bard/ChatGPT/Bingに訊いてみた ~プロンプトエンジニアリング-その6~」、[online]、令和5年6月10日、インターネット<URL:https://www.itrco.jp/wordpress/2023/06/bard-chatgpt-bing%E3%81%AB%E8%A8%8A%E3%81%84%E3%81%A6%E3%81%BF%E3%81%9F%E3%80%80%EF%BD%9E%E3%83%97%E3%83%AD%E3%83%B3%E3%83%97%E3%83%88%E3%82%A8%E3%83%B3%E3%82%B8%E3%83%8B%E3%82%A2%E3%83%AA%E3%83%B3-6/>
甲第4号証: 北郷 達郎、「生成AIを使いこなそう、プロンプトエンジニアリング事始め」、[online]、令和5年7月13日、株式会社日経BP、インターネット< URL:https://xtech.nikkei.com/atcl/nxt/column/18/02515/070300004/>
甲第5号証: 特開2021-128365号公報
甲第6号証: 特開2013-250625号公報
甲第7号証: 三柳 英樹、「東芝デジタルソリューションズ、非定型文書から必要な項目を探し出して読み取る文字認識サービスを提供」、[online]、平成31年1月31日、株式会社インプレス、インターネット< URL:https://cloud.watch.impress.co.jp/docs/news/1167451.html>
甲第8号証: 特開2010-102668号公報
甲第9号証: 特許第6504514号公報
甲第10号証: 特開2020-181369号公報
甲第11号証: ライフハッカー・ジャパン編集部、「ChatGPTの新しい「ウェブブラウジング機能」を使ってみた。便利だけど大きな課題も…」、[online]、令和5年6月26日、インターネット<URL:https://www.lifehacker.jp/article/2305-gizmodo-chatgpt-may-12-update-web-browsing/>
甲第12号証: IT navi、「ChatGPTのWebブラウジング機能をBingやBardと比較してみた」、[online]、令和5年5月20日、インターネット< URL:https://note.com/it_navi/n/n4360935a81b9>
甲第13号証: 安藤 正芳、「根本から理解する生成AI導入」、日経コンピュータ、令和5年7月6日、株式会社日経BP、p.50~54
甲第14号証: 田中 陽菜、「新常態で攻める第一生命 非対面から「くせ字」認識まで徹底DX」、日経コンピュータ、令和2年12月10日、株式会社日経BP、p.42~49
甲第15号証: 川上 明久、「生成AIをデータマネジメント業務に活用、データ加工と高い親和性」、[online]、令和5年7月12日、株式会社日経BP、インターネット< URL:https://xtech.nikkei.com/atcl/nxt/column/18/02358/062900015/>
甲第16号証: NAVITIME_Tech、「PDF形式で納品された表データをOCRでデータ化する」、[online]、令和4年8月17日、インターネット< URL:https://note.com/navitime_tech/n/nd534691a45b5>
甲第17号証: 「OCRで画像中の書類から表データを抜き出してみる」、[online]、令和3年6月25日、株式会社Fusic、インターネット< URL:https://tech.fusic.co.jp/posts/2021-06-25-ml-ocr-gcp-vision-api/>
第6 甲号証について
1 甲第1号証
(1) 甲第1号証に記載された事項
特許異議の申立て3の甲第1号証には、以下の記載がある。なお、下線は当審において付したものであり、以下同様である。
ア 「ABSTRACT
Large Language Models (LLM) have revolutionized Natural Language Processing (NLP), improving state-of-the-art on many existing tasks and exhibiting emergent capabilities. However, LLMs have not yet been successfully applied on semi-structured document information extraction, which is at the core of many document processing workflows and consists of extracting key entities from a visually rich document (VRD) given a predefined target schema. The main obstacles to LLM adoption in that task have been the absence of layout encoding within LLMs, critical for a high quality extraction, and the lack of a grounding mechanism ensuring the answer is not hallucinated. In this paper, we introduce Language Model-based Document Information EXtraction and Localization (LMDX), a methodology to adapt arbitrary LLMs for document information extraction. LMDX can do extraction of singular, repeated, and hierarchical entities, both with and without training data, while providing grounding guarantees and localizing the entities within the document.」
(1頁9~23行)
(当審仮訳:
要約
大規模言語モデル(LLM)は、自然言語処理(NLP)に革命をもたらし、多くの既存のタスクに関する最先端技術を改良し、能力を現している。しかしながら、LLMは、多くの文書処理ワークフローの中核にあり、所定のターゲットスキーマが与えられた視覚的に豊かな文書(VRD)からキーエンティティを抽出することからなる半構造化文書の情報抽出にまだうまく適用されていない。そのタスクでLLMを採用する上での主な障害は、LLM内に、高品質の抽出に重要な、レイアウトのエンコーディングの欠如、及び、答えがハルシネートされたものでないことを保証するグラウンディングメカニズムの欠如であった。このペーパーでは、文書情報の抽出に任意のLLMを適合させる方法論である言語モデルベースの文書情報抽出及び位置特定(LMDX)を紹介する。LMDXは、グラウンディング保証を提供し、文書内のエンティティの位置特定を行いながら、トレーニングデータの有無にかかわらず、単一、反復及び階層のエンティティを抽出できる。)
イ 「1 INTRODUCTION
・・・
Within that field, the task of document information extraction (IE), which consists of extracting key entities within a semi-structured document (e.g. invoice, tax form, paystub, receipt, etc) given a predefined schema, has received a lot of attention from industry and academia due to its importance and wide applicability to intelligent document processing workflows. However, document information extraction still remains challenging for current generation systems. In particular, information in semi-structured forms is organized in complex layout across many possible templates, which requires understanding of the document context, spatial alignment among the different segments of text, and tabular arrangement of structured entities (e.g. line items on an invoice, deduction items on a paystub, etc.). Content on the document can be printed or handwritten, with scanning artefacts like rotation and contrast issues.」
(1頁26~38行)
(当審仮訳:
1 序論
・・・
その分野では、予め定義されたスキーマを与えられた半構造化文書(例えば、インボイス、税金フォーム、paystub、領収書など)内のキーエンティティを抽出することからなる文書情報抽出(IE)のタスクは、その重要度およびインテリジェントな文書処理ワークフローへの広い適用可能性により、産業界および学会から多くの注目を受けている。しかしながら、文書情報抽出は、現世代のシステムにとって依然として課題である。特に、半構造化様式の情報は、多くの想定されるテンプレートにわたって複雑なレイアウトで編成され、これは、文書コンテキスト、テキストの異なるセグメント間の空間アラインメント、および構造化エンティティの表形式配置(例えば、インボイスのラインアイテム、給与明細書の控除項目など)の理解を必要とする。文書上のコンテンツは、回転、コントラストの問題のようなスキャンアーチファクトを伴う、印刷や手書きされたものであり得る。)
ウ 「2 METHODOLOGY
2.1 OVERVIEW
Overall, our pipeline is divided into five stages: OCR, chunking, prompt generation, LLM inference and decoding, detailed in the following sections. An overview with a simple example can be found in Figure 1, with the input and output of each stage showcased.
2.2 OPTICAL CHARACTER RECOGNITION
We first use an off-the-shelf OCR service on the document image to obtain words and lines segments, along with their corresponding spatial position (bounding box) on the document. An example of output from that stage on a sample document is given in Appendix A.6.
2.3 CHUNKING
Since a document can be arbitrarily long and that LLMs have limited input token length, the document is divided into document chunks so that each is small enough to be processed by the LLM.
・・・
At the end of this stage, we have N chunks. The decision to first divide the document by page stems from the observation that entities rarely cross page boundaries, and as such this chunking scheme will have minimal impact on the final extraction quality. The algorithm is described in pseudo-code in Appendix A.1.
2.4 PROMPT GENERATION
The prompt generation stage takes in the N document chunks and creates a LLM prompt for each of them. As seen in Figure 2, our prompt design contains the document representation, a description of the task, and the target schema representation containing the entities to extract. XML-like tags are used to define the start and end of each component.
Document Representation. The chunk content is represented in the prompt as the concatenation of all its segment texts, suffixed with the coordinates of those segments in the following format: < segment text > XX|YY segment.
・・・
Task Description. The task description is simply a short explanation of the task to accomplish. In our experiments, we hard code it to the following: From the document, extract the text values and tags of the following entities:.
2.5 COMPLETION TARGETS
In this section, we describe the expected LLM completion format, which can be observed in Figure 1. Like the schema, the completion is a JSON structured object with the keys being the entity types, and values being the extracted information from the document chunk.
2.6 LLM INFERENCE
In this stage of the pipeline, we run inference on the LLM with the N prompts.
・・・
2.7 DECODING
In this stage, we parse the raw LLM completions into structured entities and their locations.
Conversion to structured entities. We begin by parsing each model completion as a JSON object. Completions that fail to parse are discarded. For each key-value pair in the JSON object, we interpret the key as the entity type and parse the value to get the entity text and bounding box (as detailed in the next paragraph).
・・・
Hierarchical JSON object are recursively parsed as hierarchical entities in a similar manner. This algorithm is described in pseudo-code in Appendix A.3.」
(3頁1行~5頁19行)
(当審仮訳:
2 方法論
2.1 概要
全体として、我々のパイプラインは5つのステージ:OCR、チャンキング、プロンプト生成、LLM推論及びデコーディングに分割され、詳細は次のセクションで述べる。図1の簡単な例の概要では各ステージの入力及び出力が示されている。
2.2 光学式文字認識
まず、文書のイメージに既製のOCRサービスを使用して、文書の対応する空間位置(境界ボックス)と共に、ワード及びラインセグメントを取得する。サンプル文書についてのこのステージの出力例を付録A.6に示す。
2.3 チャンキング
文書は任意の長さにすることができ、LLMの入力トークン長は限られているので、文書は、LLMによって処理される小ささの文書チャンクに分割される。
・・・
このステージの終わりに、N個のチャンクを得る。最初に文書をページごとに分割するという決定は、エンティティがページ境界を跨ぐことがほとんどないという観察に基づくものであり、このチャンキングのスキームが抽出の最終的な品質に与える影響は最小である。アルゴリズムは、付録A.1に擬似コードで記述されている。
2.4 プロンプト生成
プロンプト生成ステージは、N個の文書チャンクを取り込み、それらの各々についてLLMプロンプトをクリエイトする。図2のように、我々のプロンプト設計は、文書表現、タスクの記述、及び抽出すべきエンティティを含むターゲットスキーマ表現を含む。XMLのようなタグが、各コンポーネントの開始と終了を定義するために使用される。
文書表現。プロンプトにおいて、チャンクコンテンツが、セグメントの座標が<セグメントのテキスト>XX|YYセグメントのフォーマットで末尾に付け加えられたセグメントのテキストの結合として表現される。
・・・
タスクの記述。タスクの記述は、達成すべきタスクの簡単な説明である。我々の実験では、それを次の通りハードコードする:文書から、次のエンティティ:のテキスト値及びタグを抽出しなさい。
2.5 完成ターゲット
このセクションでは、図1の、予想されるLLM完成フォーマットについて説明する。上記スキーマのように、完成物は、エンティティタイプであるキー、及び、文書チャンクから抽出された情報である値を持つJSON構造化オブジェクトである。
・・・
2.6 LLM推定
パイプラインのこのステージでは、N個のプロンプトを用いてLLM上で推論を実行する。
・・・
2.7 デコーディング
このステージで、生のLLM完成物を構造化されたエンティティ及びそれらの位置へと解析する。
構造化エンティティへの変換。各モデル完成物をJSONオブジェクトとして解析することから始める。解析に失敗した完了は破棄される。JSONオブジェクト内の各キーと値のペアに対し、キーをエンティティタイプとして解釈し、値を解析してエンティティテキスト及び境界ボックスを得る(次の段落で詳述)。
・・・
階層JSONオブジェクトは、同様の方法で階層エンティティとして再帰的に解析される。このアルゴリズムは、付録A.3の擬似コードで記述されている。)
(2) 甲1発明
ア 上記(1)アによれば、甲第1号証では、「LLM」は「大規模言語モデル」であり、「視覚的に豊かな文書(VRD)からキーエンティティを抽出することからなる半構造化文書の情報抽出」に関して、「LLMを採用する上での主な障害は」「レイアウトのエンコーディングの欠如、及び、答えがハルシネートされたものでないことを保証するグラウンディングメカニズムの欠如であった」とした上で、「文書情報の抽出に任意のLLMを適合させる方法論である言語モデルベースの文書情報抽出及び位置特定(LMDX)を紹介」している。
イ 上記(1)イによれば、「半構造化文書(例えば、インボイス、税金フォーム、paystub、領収書など)内のキーエンティティを抽出することからなる文書情報抽出(IE)のタスクは」、「インテリジェントな文書処理ワークフローへの広い適用可能性により、産業界および学会から多くの注目を受けている」ことから、「半構造化文書(例えば、インボイス、税金フォーム、paystub、領収書など)内のキーエンティティを抽出することからなる文書情報抽出(IE)のタスクは」、「インテリジェントな文書処理ワークフローへ」広く適用されるものである。
ウ 上記(1)ウによれば、上記アの「言語モデルベースの文書情報抽出」では、
「文書のイメージに既製のOCRサービスを使用して」、「ワード」「を取得」し、
「文書は、LLMによって処理される小ささの文書チャンクに分割され」、
「LLMプロンプトをクリエイト」し、
「プロンプト設計は、文書表現、タスクの記述、及び抽出すべきエンティティを含むターゲットスキーマ表現を含」み、
「文書表現」として「チャンクコンテンツが」「セグメントのテキストの結合として表現され」、
「タスクの記述」として「文書から」「エンティティ」「のテキスト値及びタグを抽出」させることが「コード」され、
「プロンプトを用いてLLM上で推論を実行」し、
「生のLLM完成物を構造化されたエンティティ及びそれらの位置へと解析」するにあたって、「各モデル完成物をJSONオブジェクトとして解析することから始め」、「JSONオブジェクト内の各キーと値のペアに対し、キーをエンティティタイプとして解釈し、値を解析してエンティティテキスト及び境界ボックスを得」るものと認められる。
エ 上記(1)イによれば、「文書上のコンテンツは」、「印刷」「されたものであり得る」から、上記ウの「既製のOCRサービスを使用して」、「ワード」「を取得」する「文書のイメージ」には、「印刷」された「文書のイメージ」が含まれる。
オ 上記(1)ウの「2.3 チャンキング」と「2.7 デコーディング」のセクションでは、「擬似コードで記述」された「アルゴリズム」を参照していることから、チャンキングと、デコーディングにおける解析にあたって「擬似コードで記述」された「アルゴリズム」を用いることが記載されているといえる。
カ 上記アに記載したように、甲第1号証に記載された「言語モデルベースの文書情報抽出及び位置特定(LMDX)」は「方法論」であり、上記ウに示したとおり、「文書情報抽出及び位置特定」にあたって行う内容が特定されているから、甲第1号証には、「言語モデルベースの文書情報抽出及び位置特定(LMDX)」の「方法」が記載されているといえる。
上記ア~カを纏めると、甲第1号証には以下の発明(以下、「甲1発明」という。)が記載されているものと認められる。(記号「a」~「l」は、分説するために当審が付したものであり、記号「a」~「l」に対応する発明特定事項を、以下「構成a」~「構成l」という。)
「a 視覚的に豊かな文書(VRD)からキーエンティティを抽出することからなる半構造化文書の情報抽出に関して、大規模言語モデル(LLM)を採用する上での主な障害は、レイアウトのエンコーディングの欠如、及び、答えがハルシネートされたものでないことを保証するグラウンディングメカニズムの欠如であったことに対し、
b 文書情報の抽出に任意のLLMを適合させる方法論である言語モデルベースの文書情報抽出及び位置特定(LMDX)の方法であって、
c 半構造化文書(例えば、インボイス、税金フォーム、paystub、領収書など)内のキーエンティティを抽出することからなる文書情報抽出(IE)のタスクは、インテリジェントな文書処理ワークフローへ広く適用されるものであり、
d 印刷された文書のイメージに既製のOCRサービスを使用してワードを取得し、
e 文書はLLMによって処理される小ささの文書チャンクに分割され、
f LLMプロンプトをクリエイトし、
g プロンプト設計は、文書表現、タスクの記述、及び抽出すべきエンティティを含むターゲットスキーマ表現を含み、
h 文書表現としてチャンクコンテンツがセグメントのテキストの結合として表現され、
i タスクの記述として文書からエンティティのテキスト値及びタグを抽出させることがコードされ、
j プロンプトを用いてLLM上で推論を実行し、
k 生のLLM完成物を構造化されたエンティティ及びそれらの位置へと解析するにあたって、各モデル完成物をJSONオブジェクトとして解析することから始め、JSONオブジェクト内の各キーと値のペアに対し、キーをエンティティタイプとして解釈し、値を解析してエンティティテキスト及び境界ボックスを得るものであり、
l チャンキング、解析にあたって擬似コードで記述されたアルゴリズムを用いる、
b 方法。」
2 甲第2号証
特許異議の申立て3の甲第2号証には、「ChatGPTがウソを書かないプロンプト」として、「ウソを排除するための条件を書く」ことが記載されている。
3 甲第3号証
特許異議の申立て3の甲第3号証には、「言語モデルのでっち上げを減らし、事実に基づいた回答を生成させるには」、「わからない場合は「わからない」と言うように指示する」ことが記載されている。
4 甲第4号証
特許異議の申立て3の甲第4号証には、「LLMの出力を自力でコントロールできるように「カスタマイズ」するスキル」について記載されている。
5 甲第5号証
特許異議の申立て3の甲第5号証には、以下の記載がある。
「【請求項6】
前記プロセッサは、
前記入力画像に含まれる前記原稿の種類を示す種類情報を取得し、
前記検出では、取得した前記種類情報が示す前記種類に対応づけて予め定められた前記1以上の項目を、前記入力画像から検出する、
ことを特徴とする請求項1~5のいずれか1項に記載の情報処理装置。」
「【0008】
本発明は、原稿の項目に基づいて、原稿を撮像した入力画像から原稿領域を抽出しない場合よりも、該入力画像中から適切に原稿領域を抽出することを目的とする。」
「【0038】
原稿には、氏名、会社名、住所、電話番号、電子メールアドレス、商品名、合計金額、クレジットカード決済情報等の様々な項目が含まれる。同じ種類の原稿であれば、必ず含んでいると想定される項目がある。このような項目がキー項目である。例えば、レシートの場合は、発行者の会社名、住所、合計金額等がキー項目の例であり、名刺の場合は、氏名、会社名、住所、電話番号等の連絡先がキー項目の例である。原稿の種類ごとに、1以上のキー項目が設定される。」
「【0054】 マルチクロップの開始指示の際、プロセッサ102は、ユーザに、原稿の種類(例えば名刺か、レシートか)の指定を求めてもよい。」
「【0089】
図19に例示する推定結果画面300は、スキャン画像10上に本推定結果の原稿領域14a及び14bを重畳して表示したものである。スキャン画像10内には、原稿画像12a及び12bが表示される。図示例では、原稿領域14a及び14bは、それぞれ、対応する原稿画像12a及び12b内のキー項目群を含む領域を囲んだ枠線の形態である。ただし、図示した枠線の表示形態はあくまで一例に過ぎない。」
当該記載によれば、特許異議の申立て3の甲第5号証には、入力画像中から適切に原稿領域を抽出することを目的とし、ユーザに、原稿の種類の指定を求め、前記原稿の種類を示す種類情報を取得し、前記種類情報が示す前記種類に対応づけて予め定められた項目を前記入力画像から検出することで、同じ種類の原稿であれば、必ず含んでいると想定されるキー項目群を含む領域を囲んだ枠線の形態を推定結果の原稿領域とすることが記載されている。
6 甲第6号証
特許異議の申立て3の甲第6号証には、以下の記載がある。
「【0015】
事務センタ2は、複数の営業店1から送信された帳票イメージを受け付け、帳票イメージから帳票種類を認識しかつ帳票記入事項を文字認識する。また集中センタ4では、所定の項目の入力を行って帳票データとしてホストコンピュータ5に送信する。そのため事務センタ2には、営業店1から回線3を介して送信される帳票イメージを受信する集配信サーバ21と、集配信サーバ21から帳票イメージを受取りデータベース23へ格納するマルチイメージエントリ(以下MIEという)サーバ22と、帳票イメージから帳票種類を認識し記入事項の文字認識を行うMIE認識サーバ24及び集中センタ4の入力端末25の帳票データの管理画面(照会等)にWeb形式で表示するための制御を行うMIEWebサーバ26を有する。また、集中センタ4には、帳票認識及び文字認識した認識データから、所定の項目の入力を行って帳票データとしてホストコンピュータ5に送信する入力端末25を有する。
【0016】
なお、ここでMIE、即ちマルチイメージエントリは、帳票の大きさ、記入項目の枠の位置、寸法を認識サーバに合わせて設計した帳票を扱うのでなく、複数種類の帳票に対応して認識可能とするシステムである。即ち、後述する帳票定義テーブル52に各種帳票の寸法等から作成された帳票認識用のパターンデータ等の帳票定義を格納し、読み取った帳票イメージから帳票定義に適合する帳票の種類を認識するようにしたので、複数種類の帳票について読取可能としたものである。
【0017】
集配信サーバ21は、営業店1から回線3を介して送信された帳票イメージを受信すると当該帳票イメージをMIEサーバ22へ転送する。MIEサーバ22は、集配信サーバ21から転送された帳票イメージをデータベース23へ格納する。更に、MIEサーバ22は、MIE認識サーバ24が後述する帳票定義テーブル52に従って認識した帳票の種類としての認識データ及び文字認識した認識データをデータベース23へ格納する。そして、MIEサーバ22は、後述する管理情報テーブル37を作成して記憶部36に記憶する。データベース23は、帳票イメージを格納するイメージファイル23-1と、前記文字認識した認識データ及び前記帳票の種類としての認識データ(入力画面/電文仕様データ等を含む)を格納する認識済みファイル23-2を有する。」
当該記載によれば、特許異議の申立て3の甲第6号証には、読み取った帳票イメージから帳票定義に適合する帳票の種類を認識し、帳票記入事項を文字認識し、認識した帳票の種類としての認識データ及び文字認識した認識データをデータベースへ格納することが記載されている。
7 甲第7号証
特許異議の申立て3の甲第7号証には、以下の記載がある。
「業務効率を大善する文字認識サービスについて、読み取り位置を事前に設定しなくても、受発注伝票や見積書などさまざまな書式・レイアウトの非定型文書から必要な項目を探し出して読み取る機能など、機能強化版の販売を開始した。
機能強化版の文字認識サービスでは、専用のスキャナが不要で、オフィスの複合機などで作成した紙文書のイメージデータから、簡単な操作で必要な文字を認識することが可能。面倒な読み取り位置の詳細定義は不要で、キーワード(読み取りたい項目)を登録するだけで該当する項目を探して活字を読み取るため、さまざまな書式の非定型文書で利用できる。
特に「請求書」については、合計金額や請求番号などの主なキーワードが事前登録(プリセット)されているため、すぐに利用でき、「合計金額/総合計/御合計」といった言葉の「ゆらぎ」にも対応する。」
当該記載によれば、特許異議の申立て3の甲第7号証には、受発注伝票や見積書などさまざまな書式・レイアウトの非定型文書から必要な項目を探し出して読み取る機能に関して、キーワード(読み取りたい項目)を登録するだけで該当する項目を探して活字を読み取るため、さまざまな書式の非定型文書で利用でき、特に「請求書」については、合計金額や請求番号などの主なキーワードが事前登録(プリセット)されていることが記載されている。
8 甲第8号証
特許異議の申立て3の甲第8号証には、「あらかじめユーザが」「文書の“種別”(「御見積書」や「請求書」など)に特異的な領域(タイトル部分など)を囲み、その領域座標と領域内の“文字列”をテンプレート化して登録してお」き、「入力文書内で登録済みの領域内に登録済みの文字列が書いてあるかどうかで、文書の種別を選択」し、文書種別を判定してメタデータ(「文書中に書かれた案件名・取引先会社名・契約日・受付番号など」)を抽出することが記載されている。
9 甲第9号証
特許異議の申立て3の甲第9号証には、「OCR処理を行」い、「AI機能」により「書類を分類し」、「会計処理を行う」ことが記載されている。
10 甲第10号証
特許異議の申立て3の甲第10号証には、「書類内から事前に登録した1つまたは複数の見出し語(キーワード)を見つけ、その近辺の文字列を自動的に抽出するキーワードサーチ形OCR処理を行う」ことが記載されている。
11 甲第11号証
特許異議の申立て3の甲第11号証には、以下の記載がある。
「2023年5月12日にOpenAI社がChatGPTに「ウェブブラウジング機能」(ネット検索を行なったうえで回答を作成する機能)をテスト実装すると発表しました。有料プランである「ChatGPT Plus」(月額20ドル)のユーザー限定で順次開放されています。」(1枚目8~11行)
「ChatGPTの「最新情報に弱い」という弱点を補う機能であり、さらに便利に使えるようになるだろうと期待されていました(この機能がないと2021年までのデータに基づいた回答しか得られない)。」(2枚目4~6行)
当該記載によれば、特許異議の申立て3の甲第11号証には、ChatGPTの「最新情報に弱い」という弱点を補う機能として、ChatGPTに「ウェブブラウジング機能」(ネット検索を行なったうえで回答を作成する機能)をテスト実装することが記載されている。
12 甲第12号証
特許異議の申立て3の甲第12号証には、以下の記載がある。
「おすすめの使い方としては、以下のような場面が考えられます:
1.最新の情報を取得する:ChatGPTは2021年までの情報しか持っていませんので、それ以降の最新の情報を得るためには、Webブラウジング機能を使用します。
2.特定のウェブサイトから情報を取得する:特定のウェブサイトからの情報を得るためには、そのURLを直接オープンすることができます。
3.詳細なリサーチを行う:特定のトピックについてより詳細なリサーチを行いたい場合、複数の情報源を横断的に検索することができます。
4.情報の信憑性を確認する:ChatGPTから提供された情報の信憑性を確認したい場合、Webブラウジング機能を使って情報源を調査することができます。」(2枚目21~34行目)
当該記載によれば、特許異議の申立て3の甲第12号証には、ChatGPTは2021年までの情報しか持っていないので、それ以降の最新の情報を得るためには、Webブラウジング機能を使用することが記載されている。
13 甲第13号証
特許異議の申立て3の甲第13号証には、以下の記載がある。
「現在のChatGPTは2021年9月までのデータで学習しているため、無料版のChatGPTでは「現在の日本の総理大臣は誰?」という質問をしても正しく答えられない。
・・・
こうした生成AIが苦手とする処理を補うフレームワークが注目されている。」(52頁右欄31~39行)
「Agentモジュールを利用すると、ChatGPTだけでは回答できなかった「現在の日本の総理大臣は誰?」といった問いに対してGoogle検索の結果を返せる。GMOペパボの栗林健太郎取締役CTO (最高技術責任者)は「エージェントが外部サービスとのやり取りを代行する。これにより、ChatGPTなどの大規模言語モデル(LLM)が知らない情報を取得できる」と説明する。」(53頁左欄11~20行)
当該記載によれば、特許異議の申立て3の甲第13号証には、現在のChatGPTは2021年9月までのデータで学習しているため、無料版のChatGPTでは「現在の日本の総理大臣は誰?」という質問をしても正しく答えられないこと、及びAgentモジュールを利用すると、ChatGPTだけでは回答できなかった「現在の日本の総理大臣は誰?」といった問いに対してGoogle検索の結果を返せることが記載されている。
14 甲第14号証
特許異議の申立て3の甲第14号証には、以下の記載がある。
「「AIの確信度を出している点が特徴」だと岩元マネジャーは話す。
AIの確信度とはAI OCRの認識結果についての正解確率を指し、いわば「AIがどれくらい自信を持って認識しているか」を表す。例えばある顧客の手書き書類を文字認識した場合、文字認識結果と合わせて「80%の確率で正しく認識できている」という確信度を出力する。読み取った文字情報の確信度が高い項目はそのまま処理してデータ入力に進む。確信度が低い項目は自動で抽出され、人の目による確認・修正に回す。」(48頁右欄36~左欄7行)
当該記載によれば、特許異議の申立て3の甲第14号証には、手書き書類を文字認識した場合、文字認識結果と合わせて「80%の確率で正しく認識できている」という確信度を出力すること、及び、読み取った文字情報の確信度が高い項目はそのまま処理してデータ入力に進み、確信度が低い項目は自動で抽出され、人の目による確認・修正に回すことが記載されている。
15 甲第15号証
特許異議の申立て3の甲第15号証には、「生成AI独自の強みとして、修正案の「確からしさ」を0~100%で出力させるような利用方法ができ」、「閾値を設けて一定以上であれば修正案を自動的に採用するような方法が採れ」ることが記載されている。
16 甲第16号証
特許異議の申立て3の甲第16号証には、OCRに関して、「読み込みたい表のみにトリミングしてから読み込ませた方がアウトプットするCSVの精度が高くな」ることが記載されている。
17 甲第17号証
特許異議の申立て3の甲第17号証には、OCRに関して、「書類画像内の「表」に注目し、画像から表のデータを認識して、表の構造を保ったままエクセルやcsvといった表データに出力すること」が記載されている。
第7 当審の判断
上記第2の3のとおり、本件訂正が認められ、申立理由の対象であった請求項1及び8が削除され、請求項10、11に係る発明についても当該請求項1又は8を引用しないものとされたため、上記第4の取消理由は解消したものと判断される。
また、上記第5の特許異議申立理由のうち、申立理由1-1、1-2、2-1、2-2は解消したものと判断される。
したがって、申立理由3-1のうち請求項2~7、9~11に関するもの、及び申立理由3-2について以下検討する。
なお、申立人3によって提出された甲第1~17号証を、以下、甲1~甲17という。
1 申立理由3-1(甲1を主引例とした進歩性)
(1) 本件発明2
本件発明2を甲1発明と対比する。
ア 対比
(ア) 構成Aについて
a 甲1発明の構成cによれば、「半構造化文書(例えば、インボイス、税金フォーム、paystub、領収書など)内のキーエンティティを抽出することからなる文書情報抽出(IE)のタスクは、インテリジェントな文書処理ワークフローへ広く適用されるものであ」るから、構成bの「言語モデルベースの文書情報抽出」は、「文書処理ワークフロー」に必要な文書情報を集めるものといえ、構成Aの「情報を」「収集する」ことに相当する。
b 上記aを踏まえると、甲1発明の構成dにより、「印刷された文書のイメージに既製のOCRサービスを使用してワードを取得」した上で、構成bの「言語モデルベースの文書情報抽出」を行うことは、構成Aの「印刷物に印刷された文字情報を」「収集する」ことに相当する。
c 甲1発明の構成jの「プロンプトを用いてLLM上で推論を実行」させるために情報処理装置を用いることは技術常識である。また、甲1発明では、構成lのように「アルゴリズム」を用いた処理を行うから、甲1発明の「方法」が「情報処理装置」を用いて実施されることは明らかである。
d 上記a~cより、本件発明2と甲1発明は「印刷物に印刷された文字情報を情報処理装置が収集する方法」である点で共通する。
(イ) 構成B、Fについて
甲1発明の構成dの「印刷された文書のイメージに既製のOCRサービスを使用して」「取得し」た「ワード」は、構成Bの「光学文字認識により前記印刷物の画像から読み取られた一群の文字列」に相当する。
そして、構成dの「OCRサービスを使用して」得た「ワード」は、「文書のイメージ」から得たものであり、構成eにより「文書チャンクに分割され」る対象であるから、構成lの「チャンキング」「にあたって擬似コードで記述されたアルゴリズムを用いる」ことを踏まえると、上記「ワード」が、「チャンキング」の対象として「情報処理装置」によって取得されることは明らかである。
そうすると、本件発明2と甲1発明は「前記情報処理装置が、光学文字認識により前記印刷物の画像から読み取られた一群の文字列を取得する工程」「を有」する点で共通する。
(ウ) 構成C、Fについて
a 甲1発明の「タスクの記述」は、構成iの「タスクの記述として文書からエンティティのテキスト値及びタグを抽出させることがコードされ」ることを踏まえると、構成Cの「指示」に相当する。
b 甲1発明の「LLM」は「大規模言語モデル」であり、甲1発明の構成gにより、「プロンプト設計は」、「タスクの記述」「を含」むから、上記aを踏まえると、甲1発明の構成fの「LLMプロンプト」は、構成Cの「大規模言語モデルへ指示を与える第1プロンプト」に相当する。
c 上記bを踏まえると、構成fの「LLMプロンプトをクリエイト」することは、構成Cの「大規模言語モデルへ指示を与える第1プロンプトを生成する工程」に相当する。
d 甲1発明の構成iの「タグ」は、本件発明2の「項目」に相当する。
e 甲1発明の構成iの「テキスト値」は、構成Cの「文字情報」に相当する。
f 甲1発明の構成hの「セグメントのテキストの結合として表現され」る「文書表現」は、構成Cの「一群の文字列」に相当する。
g 甲1発明の構成gによれば、「プロンプト設計は、文書表現、タスクの記述」「を含」んでおり、構成iの「タスクの記述として文書からエンティティのテキスト値及びタグを抽出させること」は、「文書表現」から「エンティティのテキスト値及びタグを抽出させること」を意味すると解される。
h 上記a、d~gより、甲1発明の構成iの「タスクの記述として文書からエンティティのテキスト値及びタグを抽出させること」は、構成Cの「所定の1以上の項目に関する1以上の前記文字情報を前記一群の文字列から抽出する」「指示」に相当する。
i 上記c、hより、甲1発明において「文書表現、タスクの記述」「を含」む「プロンプト設計」(構成g)の「LLMプロンプトをクリエイト」(構成f)することは、構成Cの「所定の1以上の項目に関する1以上の前記文字情報を前記一群の文字列から抽出するように大規模言語モデルへ指示を与える第1プロンプトを生成する工程」に相当する。
j 上記iより、上記(ア)cの検討を踏まえると、本件発明2と甲1発明は「前記情報処理装置が、所定の1以上の項目に関する1以上の前記文字情報を前記一群の文字列から抽出するように大規模言語モデルへ指示を与える第1プロンプトを生成する工程」「を有」する点で共通する。
(エ) 構成D、Fについて
a 甲1発明では、構成fで「LLMプロンプトをクリエイトし」、構成jで「プロンプトを用いてLLM上で推論を実行」することから、「クリエイト」した「プロンプト」を「大規模言語モデル」である「LLM」に提供することは明らかである。
b 甲1発明では、構成jで「プロンプトを用いてLLM上で推論を実行し」た上で、構成kで「生のLLM完成物を構造化されたエンティティ及びそれらの位置へと解析」することから、提供した「プロンプト」に応じて、「大規模言語モデル」である「LLM」から「生のLLM完成物」を取得していることは明らかである。
c 甲1発明の構成kでは、「各モデル完成物をJSONオブジェクトとして解析することから始め、JSONオブジェクト内の各キーと値のペアに対し、キーをエンティティタイプとして解釈し、値を解析してエンティティテキスト及び境界ボックスを得る」ことから、「各モデル完成物」の「JSONオブジェクト内」には「各キーと値のペア」が存在する。
ここで、構成kでは「値を解析してエンティティテキスト」「を得る」こと、及び、タグを検索等のキーとすることが技術常識であることを踏まえると、当該「値」は、構成iの「タスクの記述として文書からエンティティのテキスト値」「を抽出させ」た結果であるから、上記(ウ)eの検討を踏まえると、当該「値」は、構成C、Dの「文字情報」に相当する。 また、上記(ウ)g、hの検討を踏まえると、甲1発明において、当該「値」は、「文書表現」から抽出されたものであり、甲1発明の「文書表現」は、上記(ウ)fのとおり、構成C、Dの「一群の文字列」に相当するから、甲1発明の構成kの「値」は、構成Dの「一群の文字列から抽出された1以上の前記文字情報」に相当する。
d 上記a~cより、甲1発明において、構成fで「LLMプロンプトをクリエイトし」、構成jで「プロンプトを用いてLLM上で推論を実行し」、構成kで「生のLLM完成物を構造化されたエンティティ及びそれらの位置へと解析する」ことは、構成Dの「生成した前記第1プロンプトを前記大規模言語モデルに提供し、当該第1プロンプトに応じて前記一群の文字列から抽出された1以上の前記文字情報を前記大規模言語モデルから取得する」ことに相当する。
e 上記dより、上記(ア)cの検討を踏まえると、本件発明2と甲1発明は「前記情報処理装置が、生成した前記第1プロンプトを前記大規模言語モデルに提供し、当該第1プロンプトに応じて前記一群の文字列から抽出された1以上の前記文字情報を前記大規模言語モデルから取得する工程」「を有」する点で共通する。
(オ) 構成E~Gについて
構成E~Gでは「前記情報処理装置が、前記一群の文字列から抽出する情報の種類に関する種類情報を取得する工程」「を有し、前記第1プロンプトを生成する工程は、前記種類情報が示す前記種類について定められた1以上の前記項目に関する1以上の前記文字情報を前記一群の文字列から抽出するように指示する前記第1プロンプトを生成することを含む」ことが特定されているのに対し、甲1発明では、当該特定がなされていない点で相違する。
イ 一致点及び相違点
以上を総合すると、本件発明2と甲1発明とは、以下の点で一致ないし相違する。
(一致点)
「A 印刷物に印刷された文字情報を情報処理装置が収集する方法であって、
B 前記情報処理装置が、光学文字認識により前記印刷物の画像から読み取られた一群の文字列を取得する工程と、
C 前記情報処理装置が、所定の1以上の項目に関する1以上の前記文字情報を前記一群の文字列から抽出するように大規模言語モデルへ指示を与える第1プロンプトを生成する工程と、
D 前記情報処理装置が、生成した前記第1プロンプトを前記大規模言語モデルに提供し、当該第1プロンプトに応じて前記一群の文字列から抽出された1以上の前記文字情報を前記大規模言語モデルから取得する工程と
F を有する
A 方法。」
(相違点)
本件発明2では「前記情報処理装置が、前記一群の文字列から抽出する情報の種類に関する種類情報を取得する工程」「を有し、前記第1プロンプトを生成する工程は、前記種類情報が示す前記種類について定められた1以上の前記項目に関する1以上の前記文字情報を前記一群の文字列から抽出するように指示する前記第1プロンプトを生成することを含む」ことが特定されているのに対し、甲1発明では、当該特定がなされていない点。
ウ 判断
本件発明2の上記イの相違点について検討する。
甲5には、種類情報を取得し、当該種類に対応づけて予め定められた項目を入力画像から検出することが記載されており、甲6には、帳票の種類を認識し、帳票記入事項を文字認識することが記載されている。
また、甲7の記載からは、種類情報を取得することが明らかでないが、甲7には、受発注伝票や見積書などさまざまな書式・レイアウトの非定型文書から必要な項目を探し出して読み取ることが記載されている。
そして、少なくとも甲5、甲6によれば、種類情報に応じて文字認識することは周知の技術事項と認められる。
しかしながら、甲1発明では、構成dによりOCRを使用してワードを取得する際に、文字認識を行うことから、周知の当該技術事項を甲1発明に適用した場合は、構成dのOCRを使用するにあたって、種類情報を取得し、当該種類情報に応じてOCRが所望の項目の文字情報を抽出することとなり、本件発明2のように、「大規模言語モデル」の使用を前提として「前記種類情報が示す前記種類について定められた1以上の前記項目に関する1以上の前記文字情報を前記一群の文字列から抽出するように指示する前記第1プロンプトを生成すること」にはならない。
また、甲第2~4、8~17号証には、本件発明2の相違点に関する技術事項は示されていない。
よって、本件発明2は、当業者が甲1発明及び甲第2~17号証に記載された技術事項に基づいて容易に発明をすることができたものとはいえない。
(2) 本件発明3、4について
本件発明3~4も、本件発明2の上記相違点に係る構成と同等の構成を備えるものであるから、上記(1)ウと同様の理由により、当業者が甲1発明及び甲第2~17号証に記載された技術事項に基づいて容易に発明をすることができたものとはいえない。
(3) 本件発明5について
ア 対比
(ア) 構成A~D、Fについて
本件発明5の構成A~D、Fは、本件発明2の構成A~D、Fと同等の構成であり、上記(1)ア(ア)~(エ)で述べたとおりである。
(イ) 構成Hについて
上記(1)ア(ウ)hで説示したとおり、甲1発明の構成iの「タスクの記述として文書からエンティティのテキスト値及びタグを抽出させること」は、構成Cの「所定の1以上の項目に関する1以上の前記文字情報を前記一群の文字列から抽出する」「指示」に相当する。
これを踏まえると、甲1発明の構成iの「タスクの記述として文書からエンティティのテキスト値及びタグを抽出させること」は、構成Hの「少なくとも一部の前記項目について、前記一群の文字列から前記項目に関する前記文字情報を抽出する第1指示」に相当する。
そして、甲1発明の「プロンプト設計」は「タスクの記述」(構成g)を含むから、甲1発明の「LLMプロンプト」と、構成Hの「第1プロンプト」は、「少なくとも一部の前記項目について、前記一群の文字列から前記項目に関する前記文字情報を抽出する第1指示」を含む点で共通する。
そうすると、本件発明5の構成Hの「前記第1プロンプトを生成する工程」と、甲1発明の構成fの「LLMプロンプトをクリエイト」することは、少なくとも一部の前記項目について、前記一群の文字列から前記項目に関する前記文字情報を抽出する第1指示を含んだ前記第1プロンプトを生成することを含む点で共通する。
ただし、「前記第1プロンプトを生成する工程」に関して、本件発明5では、「前記一群の文字列から前記項目に関する前記文字情報を抽出する第1指示と、前記一群の文字列中の前記項目に関するキーワードに基づいて前記項目に関する関連情報をウェブ検索により収集する第2指示とを含んだ前記第1プロンプトを生成する」のに対し、甲1発明では、「LLMプロンプト」に「前記一群の文字列中の前記項目に関するキーワードに基づいて前記項目に関する関連情報をウェブ検索により収集する第2指示」を含むことは特定されていない点で相違する。
(ウ) 構成Iについて
上記(1)ア(エ)dで説示したとおり、甲1発明において、構成fで「LLMプロンプトをクリエイトし」、構成jで「プロンプトを用いてLLM上で推論を実行し」、構成kで「生のLLM完成物を構造化されたエンティティ及びそれらの位置へと解析する」ことは、構成Dの「生成した前記第1プロンプトを前記大規模言語モデルに提供し、当該第1プロンプトに応じて前記一群の文字列から抽出された1以上の前記文字情報を前記大規模言語モデルから取得する」ことに相当するから、上記(イ)の検討を踏まえると、甲1発明において、構成fで「LLMプロンプトをクリエイトし」、構成jで「プロンプトを用いてLLM上で推論を実行し」、構成kで「生のLLM完成物を構造化されたエンティティ及びそれらの位置へと解析する」ことは、構成Iの「前記第1指示に応じて抽出された前記文字情報」「を前記大規模言語モデルから取得すること」に相当する。
ただし、「前記文字情報を取得する工程」に関して、本件発明5では、「前記第1指示に応じて抽出された前記文字情報と、前記第2指示に応じて収集された前記関連情報とを前記大規模言語モデルから取得することを含」むのに対して、甲1発明では、「前記第2指示に応じて収集された前記関連情報」「を前記大規模言語モデルから取得すること」は特定されていない点で相違する。
(エ) 構成Jについて
本件発明5では、「前記情報処理装置が、一の前記項目について前記大規模言語モデルから取得した前記文字情報を、当該一の項目について取得した前記関連情報に応じて修正する工程を有する」のに対して、甲1発明では、当該工程を有することは特定されていない点で相違する。
イ 一致点及び相違点
以上を総合すると、本件発明5と甲1発明とは、以下の点で一致ないし相違する。
(一致点)
「A 印刷物に印刷された文字情報を情報処理装置が収集する方法であって、
B 前記情報処理装置が、光学文字認識により前記印刷物の画像から読み取られた一群の文字列を取得する工程と、
C 前記情報処理装置が、所定の1以上の項目に関する1以上の前記文字情報を前記一群の文字列から抽出するように大規模言語モデルへ指示を与える第1プロンプトを生成する工程と、
D 前記情報処理装置が、生成した前記第1プロンプトを前記大規模言語モデルに提供し、当該第1プロンプトに応じて前記一群の文字列から抽出された1以上の前記文字情報を前記大規模言語モデルから取得する工程と
F を有し、
H’ 前記第1プロンプトを生成する工程は、少なくとも一部の前記項目について、前記一群の文字列から前記項目に関する前記文字情報を抽出する第1指示を含んだ前記第1プロンプトを生成することを含み、
I’ 前記文字情報を取得する工程は、前記第1指示に応じて抽出された前記文字情報を前記大規模言語モデルから取得することを含む、
A 方法。」
(相違点1)
「前記第1プロンプトを生成する工程」に関して、本件発明5では、「前記一群の文字列から前記項目に関する前記文字情報を抽出する第1指示と、前記一群の文字列中の前記項目に関するキーワードに基づいて前記項目に関する関連情報をウェブ検索により収集する第2指示とを含んだ前記第1プロンプトを生成する」のに対し、甲1発明では、「LLMプロンプト」に「前記一群の文字列中の前記項目に関するキーワードに基づいて前記項目に関する関連情報をウェブ検索により収集する第2指示」を含むことは特定されていない点。
(相違点2)
「前記文字情報を取得する工程」に関して、本件発明5では、「前記第1指示に応じて抽出された前記文字情報と、前記第2指示に応じて収集された前記関連情報とを前記大規模言語モデルから取得することを含」むのに対して、甲1発明では、「前記第2指示に応じて収集された前記関連情報とを前記大規模言語モデルから取得すること」は特定されていない点。
(相違点3)
本件発明5では、「前記情報処理装置が、一の前記項目について前記大規模言語モデルから取得した前記文字情報を、当該一の項目について取得した前記関連情報に応じて修正する工程を有する」のに対して、甲1発明では、当該工程を有することは特定されていない点。
ウ 判断
本件発明5の上記イの相違点1~3について検討する。
甲11、12には、ChatGPTの「ウェブブラウジング機能」(ネット検索を行なったうえで回答を作成する機能)について記載されている。
また、甲13には、ChatGPTだけでは回答できなかった問いに対してGoogle検索の結果を返すことが記載されている。
しかしながら、甲11~13には、プロンプトとして「前記項目に関する関連情報をウェブ検索により収集する第2指示」を含むこと、さらには、「大規模言語モデルから取得した前記文字情報を」「前記関連情報に応じて修正する」ことの開示はなく、甲1発明に甲11、12に記載された上記「ウェブブラウジング機能」を適用したとしても、甲1発明の構成jの「LLM上で推論を実行」する際にウェブ検索を利用するにすぎず、関連情報をウェブ検索する指示をプロンプトに含めるとともに、当該関連情報により、構成kのLLM完成物から解析した値を修正することにはならない。
また、甲第2~10、13~17号証には、本件発明5の相違点1~3に関する技術事項は示されていない。
よって、本件発明5は、当業者が甲1発明及び甲第2~17号証に記載された技術事項に基づいて容易に発明をすることができたものとはいえない。
(4) 本件発明6について
本件発明6も、本件発明5の上記相違点1~3に係る構成と同等の構成を備えるものであるから、上記(3)ウと同様の理由により、当業者が甲1発明及び甲第2~17号証に記載された技術事項に基づいて容易に発明をすることができたものとはいえない。
(5) 本件発明7について
ア 対比
(ア) 構成A~D、Fについて
本件発明7の構成A~D、Fは、本件発明2の構成A~D、Fと同等の構成であり、上記(1)ア(ア)~(エ)で述べたとおりである。
(イ) 構成Hについて
上記(1)ア(ウ)hで説示したとおり、甲1発明の構成iの「タスクの記述として文書からエンティティのテキスト値及びタグを抽出させること」は、構成Cの「所定の1以上の項目に関する1以上の前記文字情報を前記一群の文字列から抽出する」「指示」に相当する。
これを踏まえると、甲1発明の構成iの「タスクの記述として文書からエンティティのテキスト値及びタグを抽出させること」は、構成Kの「少なくとも一部の前記項目について、前記一群の文字列から前記項目に関する前記文字情報を抽出する第1指示」に相当する。
そして、甲1発明の「プロンプト設計」は「タスクの記述」(構成g)を含むから、甲1発明の「LLMプロンプト」と、構成Kの「第1プロンプト」は、「少なくとも一部の前記項目について、前記一群の文字列から前記項目に関する前記文字情報を抽出する第1指示」を含む点で共通する。
そうすると、本件発明7の構成Kの「前記第1プロンプトを生成する工程」と、甲1発明の構成fの「LLMプロンプトをクリエイト」することは、少なくとも一部の前記項目について、前記一群の文字列から前記項目に関する前記文字情報を抽出する第1指示を含んだ前記第1プロンプトを生成することを含む点で共通する。
ただし、「前記第1プロンプトを生成する工程」に関して、本件発明7では、「前記第1プロンプトを生成する工程は、少なくとも一部の前記項目について、前記一群の文字列から前記項目に関する前記文字情報を抽出する第1指示と、前記一群の文字列中の前記項目に関するキーワードに基づいて前記項目に関する関連情報をウェブ検索により収集する第2指示と、前記第2指示に応じて一の前記項目について収集された前記関連情報から、当該一の項目についての前記文字情報を抽出する第3指示とを含んだ前記第1プロンプトを生成する」のに対し、甲1発明では、「LLMプロンプト」に「前記一群の文字列中の前記項目に関するキーワードに基づいて前記項目に関する関連情報をウェブ検索により収集する第2指示と、前記第2指示に応じて一の前記項目について収集された前記関連情報から、当該一の項目についての前記文字情報を抽出する第3指示」を含むことは特定されていない点で相違する。
(ウ) 構成Mについて
上記(1)ア(エ)dで説示したとおり、甲1発明において、構成fで「LLMプロンプトをクリエイトし」、構成jで「プロンプトを用いてLLM上で推論を実行し」、構成kで「生のLLM完成物を構造化されたエンティティ及びそれらの位置へと解析する」ことは、構成Dの「生成した前記第1プロンプトを前記大規模言語モデルに提供し、当該第1プロンプトに応じて前記一群の文字列から抽出された1以上の前記文字情報を前記大規模言語モデルから取得する」ことに相当するから、上記(イ)の検討を踏まえると、甲1発明において、構成fで「LLMプロンプトをクリエイトし」、構成jで「プロンプトを用いてLLM上で推論を実行し」、構成kで「生のLLM完成物を構造化されたエンティティ及びそれらの位置へと解析する」ことは、構成Lの「前記第1指示に応じて前記一群の文字列から抽出された前記文字情報」「を前記大規模言語モデルから取得すること」に相当する。
ただし、「前記文字情報を取得する工程」に関して、本件発明7では、「前記第1指示に応じて前記一群の文字列から抽出された前記文字情報と、前記第3指示に応じて前記関連情報から抽出された前記文字情報とを前記大規模言語モデルから取得することを含」むのに対して、甲1発明では、「前記第3指示に応じて前記関連情報から抽出された前記文字情報」「を前記大規模言語モデルから取得すること」は特定されていない点で相違する。
(エ) 構成Jについて
本件発明7では、「前記情報処理装置が、一の前記項目について前記第1指示に応じて前記一群の文字列から抽出された前記文字情報を、当該一の項目について前記第3指示に応じて前記関連情報から抽出された前記文字情報に応じて修正する工程を有する」のに対して、甲1発明では、当該工程を有することは特定されていない点で相違する。
イ 一致点及び相違点
以上を総合すると、本件発明7と甲1発明とは、以下の点で一致ないし相違する。
(一致点)
「A 印刷物に印刷された文字情報を情報処理装置が収集する方法であって、
B 前記情報処理装置が、光学文字認識により前記印刷物の画像から読み取られた一群の文字列を取得する工程と、
C 前記情報処理装置が、所定の1以上の項目に関する1以上の前記文字情報を前記一群の文字列から抽出するように大規模言語モデルへ指示を与える第1プロンプトを生成する工程と、
D 前記情報処理装置が、生成した前記第1プロンプトを前記大規模言語モデルに提供し、当該第1プロンプトに応じて前記一群の文字列から抽出された1以上の前記文字情報を前記大規模言語モデルから取得する工程と
F を有し、
K’ 前記第1プロンプトを生成する工程は、少なくとも一部の前記項目について、前記一群の文字列から前記項目に関する前記文字情報を抽出する第1指示を含んだ前記第1プロンプトを生成することを含み、
L’ 前記文字情報を取得する工程は、前記第1指示に応じて前記一群の文字列から抽出された前記文字情報を前記大規模言語モデルから取得することを含む、
A 方法。」
(相違点1)
「前記第1プロンプトを生成する工程」に関して、本件発明7では、「前記第1プロンプトを生成する工程は、少なくとも一部の前記項目について、前記一群の文字列から前記項目に関する前記文字情報を抽出する第1指示と、前記一群の文字列中の前記項目に関するキーワードに基づいて前記項目に関する関連情報をウェブ検索により収集する第2指示と、前記第2指示に応じて一の前記項目について収集された前記関連情報から、当該一の項目についての前記文字情報を抽出する第3指示とを含んだ前記第1プロンプトを生成する」のに対し、甲1発明では、「LLMプロンプト」に「前記一群の文字列中の前記項目に関するキーワードに基づいて前記項目に関する関連情報をウェブ検索により収集する第2指示と、前記第2指示に応じて一の前記項目について収集された前記関連情報から、当該一の項目についての前記文字情報を抽出する第3指示」を含むことは特定されていない点。
(相違点2)
「前記文字情報を取得する工程」に関して、本件発明7では、「前記第1指示に応じて前記一群の文字列から抽出された前記文字情報と、前記第3指示に応じて前記関連情報から抽出された前記文字情報とを前記大規模言語モデルから取得することを含」むのに対して、甲1発明では、「前記第3指示に応じて前記関連情報から抽出された前記文字情報」「を前記大規模言語モデルから取得すること」は特定されていない点。
(相違点3)
本件発明7では、「前記情報処理装置が、一の前記項目について前記第1指示に応じて前記一群の文字列から抽出された前記文字情報を、当該一の項目について前記第3指示に応じて前記関連情報から抽出された前記文字情報に応じて修正する工程を有する」のに対して、甲1発明では、当該工程を有することは特定されていない点。
ウ 判断
本件発明7の上記イの相違点1~3について検討する。
甲11、12には、ChatGPTの「ウェブブラウジング機能」(ネット検索を行なったうえで回答を作成する機能)について記載されている。
しかしながら、甲11、12には、プロンプトとして「前記項目に関する関連情報をウェブ検索により収集する第2指示」を含むこと、さらには、「大規模言語モデルから取得」した「前記文字情報を」「前記関連情報から抽出された前記文字情報に応じて修正する」ことの開示はなく、甲1発明に甲11、12に記載された上記「ウェブブラウジング機能」を適用したとしても、甲1発明の構成jの「LLM上で推論を実行」する際にウェブ検索を利用するにすぎず、関連情報をウェブ検索する指示をプロンプトに含めるとともに、当該関連情報から抽出された文字情報により、構成kのLLM完成物から解析した値を修正することにはならない。
また、甲第2~10、13~17号証には、本件発明7の相違点1~3に関する技術事項は示されていない。
よって、本件発明7は、当業者が甲1発明及び甲第2~17号証に記載された技術事項に基づいて容易に発明をすることができたものとはいえない。
(6) 本件発明9~11について
本件発明9~11も、本件発明2の上記相違点(上記(1)イ)に係る構成と同等の構成、本件発明5の上記相違点1~3(上記(3)イ)に係る構成と同等の構成、又は、本件発明7の上記相違点1~3(上記(5)イ)に係る構成と同等の構成のいずれかを備えるものであるから、上記(1)ウ、上記(3)ウ、又は、上記(5)ウと同様の理由により、当業者が甲1発明及び甲第2~17号証に記載された技術事項に基づいて容易に発明をすることができたものとはいえない。
2 申立理由3-2
本件発明5は、「前記情報処理装置が、一の前記項目について前記大規模言語モデルから取得した前記文字情報を、当該一の項目について取得した前記関連情報に応じて修正する工程を有する」ものであり、当該「修正」に関して、本件特許の明細書には以下の記載がある。下線は当審で付した。
「【0065】
情報処理装置1は、一の項目について大規模言語モデル6から取得した文字情報を、当該一の項目について取得した関連情報に応じて修正する(ST265)。例えば、情報処理装置1は、一の項目についての文字情報が不明であると大規模言語モデル6により回答された場合において、当該一の項目について取得した関連情報には、当該文字情報に該当する情報が含まれている場合、この関連情報に含まれる情報を、当該一の項目に関する文字情報として取得してもよい。
【0066】
また、情報処理装置1は、一の項目について文字情報が抽出された場合において、当該一の項目について取得した関連情報にも当該文字情報に該当する情報が含まれている場合、関連情報のウェブ上での公開日が印刷物の発行日より後であるならば、抽出された文字情報を関連情報に含まれる情報(当該文字情報に該当する情報)に応じて修正してもよい。すなわち、印刷物に印刷された情報に比べて関連情報が新しい場合、OCR結果から抽出された文字情報を関連情報に応じて修正してもよい。」
段落【0065】、【0066】の記載を参酌すれば、同じ一の項目について、大規模言語モデル6の回答が不明である場合や、関連情報の方が新しい場合に、大規模言語モデル6の回答を関連情報の情報で更新するような修正を行うことが明らかであり、本件発明5が明確でないとはいえない。
本件発明7の「前記情報処理装置が、一の前記項目について前記第1指示に応じて前記一群の文字列から抽出された前記文字情報を、当該一の項目について前記第3指示に応じて前記関連情報から抽出された前記文字情報に応じて修正する工程を有する」点についても同様である。
したがって、本件特許の請求項5、7の記載は、特許法第36条第6項第2号に規定する要件に適合する。
第8 むすび
以上のとおりであるから、特許異議申立書に記載された特許異議申立の理由及び証拠によっては、訂正後の請求項2~7、9~11に係る特許を取り消すことはできない。
また、他に本件請求項2~7、9~11に係る特許を取り消すべき理由を発見しない。
また、本件特許の請求項1及び8は削除されているから、これらの請求項1、8に対する特許異議の申立ては却下する。
よって、結論のとおり決定する。
審決本文(J-PlatPat)
J-PlatPatの審決検索トップを開きます。番号入力で「審判番号」を選び、下の番号を貼り付けて検索してください。
J-PlatPat 審決検索を開く
2024-700734