審決検索MVP
← 検索一覧に戻る
特許異議申立

2023-701034

検査装置及び学習装置

審判番号
2023-701034
法域
特許
審判種別
異議申立(異議の決定)
出願番号
特願2019-126524
登録番号
7250330
請求日
2023年09月28日
審決日
2024年11月06日
公報発行日
2025年01月31日
結論
訂正認容
当事者
  • 【権利者】株式会社イシダ
  • 【権利者代理人】長谷川 芳樹
  • 【権利者代理人】黒木 義樹
  • 【権利者代理人】小曳 満昭
  • 【権利者代理人】岡▲崎▼ 大志
  • 【異議申立人】鈴野 幹夫
審判長/審判官
  • 審判長 南 宏輔
  • 審判官 萩田 裕介
  • 審判官 北島 拓馬
分類
P1651.113-YAA(G01N) / P1651.121-YAA(G01N) / P1651.537-YAA(G01N)
条文(本文から自動抽出・参考)
特許法第120条の5第2項、特許法第29条第2項、特許法第29条第1項第3号、特許法第113条第2号、特許法第120条の5第4項、特許法第36条第6項第2号
データ出所
審決公報(XML)

事件の表示

特許第7250330号発明「検査装置及び学習装置」の特許異議申立事件について、次のとおり決定する。

結論

結 論 特許第7250330号の特許請求の範囲を訂正請求書に添付された訂正特許請求の範囲のとおり、訂正後の請求項1~7について訂正することを認める。 特許第7250330号の請求項1~8に係る特許を維持する。

理由

理 由 第1 手続の経緯 特許第7250330号の請求項1ないし8に係る特許についての出願(以下、「本願」という。)は、令和元年7月5日に出願され、令和5年3月24日にその特許権の設定登録がされ、令和5年4月3日に特許掲載公報が発行された。 本件特許異議の申立ての主な経緯は、次のとおりである。 令和5年 9月28日 : 特許異議申立人 鈴野幹夫(以下「申立人」という。)による請求項1ないし8に係る特許に対する特許異議の申立て 令和6年 1月22日付け: 取消理由通知書 同年 3月25日 : 特許権者による意見書の提出 同年 5月28日付け: 取消理由通知書(決定の予告) 同年 7月25日 : 特許権者による意見書及び訂正請求書の提出 同年 8月22日 : 特許権者による訂正請求書に対する手続補正書(方式)の提出 同年10月 3日 : 申立人による意見書の提出 第2 訂正の適否 1 訂正の内容 令和6年8月22日提出の手続補正書によって補正された訂正請求書(以下「本件訂正書」といい、それによる訂正を「本件訂正」又は単に「訂正」という。)による請求の趣旨は、特許請求の範囲を、本件訂正請求書に添付した訂正特許請求の範囲のとおり、訂正後の請求項1~7について訂正することを求めるものであり、その内容は、以下のとおりである。なお、下線は訂正箇所を示している。 (1)訂正事項1 特許請求の範囲の請求項1における「予め構成された機械学習モデル」を「異物の位置に対応する画素を示す正解データを含む教師データを用いて学習された機械学習モデルであって、前記第1画像及び前記第2画像を入力することにより画素毎の異物である確からしさを示す異物尤度が出力されるように調整されたパラメータを含むように予め構成された前記機械学習モデル」に訂正する。 (2)訂正事項2 特許請求の範囲の請求項2に「前記機械学習モデルは、前記第1画像及び前記第2画像を入力して1つの検査用画像を出力するように構成された第1機械学習モデルと、前記第1機械学習モデルにより出力された前記検査用画像を入力して前記画素毎の前記異物尤度を出力するように構成された第2機械学習モデルと、を含む、請求項1に記載の検査装置。」と記載されているのを、「同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像と、前記被検査物を透過した前記第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像と、のセットを取得する画像取得部と、予め構成された前記機械学習モデルに前記第1画像及び前記第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得し、前記画素毎の前記異物尤度に基づいて前記異物を検出する検出部と、を備え、前記機械学習モデルは、前記第1画像及び前記第2画像を入力して1つの検査用画像を出力するように構成された第1機械学習モデルと、前記第1機械学習モデルにより出力された前記検査用画像を入力して前記画素毎の前記異物尤度を出力するように構成された第2機械学習モデルと、を含む、検査装置。」に訂正する。(請求項2の記載を引用する請求項3、5~7も同様に訂正する)。 (3)訂正事項3 特許請求の範囲の請求項4に「それぞれ互いに関連する所定位置に異物が配置された前記第1画像及び前記第2画像と前記所定位置に対応する画素を示す正解データとを含む教師データを前記機械学習モデルに入力することにより、前記機械学習モデルを学習させる学習部を更に備え、前記学習部は、前記機械学習モデルに前記教師データにおける前記第1画像及び前記第2画像を入力し、前記機械学習モデルにより出力された前記画素毎の前記異物尤度から決定される異物に対応する画素と前記教師データにおける前記正解データとの一致度が大きくなるように前記機械学習モデルのパラメータを調整する、請求項1に記載の検査装置。」と記載されているのを、「同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像と、前記被検査物を透過した前記第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像と、のセットを取得する画像取得部と、予め構成された前記機械学習モデルに前記第1画像及び前記第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得し、前記画素毎の前記異物尤度に基づいて前記異物を検出する検出部と、を備え、それぞれ互いに関連する所定位置に異物が配置された前記第1画像及び前記第2画像と前記所定位置に対応する画素を示す正解データとを含む教師データを前記機械学習モデルに入力することにより、前記機械学習モデルを学習させる学習部を更に備え、前記学習部は、前記機械学習モデルに前記教師データにおける前記第1画像及び前記第2画像を入力し、前記機械学習モデルにより出力された前記画素毎の前記異物尤度から決定される異物に対応する画素と前記教師データにおける前記正解データとの一致度が大きくなるように前記機械学習モデルのパラメータを調整する、検査装置。」に訂正する。(請求項4の記載を引用する請求項7も同様に訂正する)。 2 訂正の目的の適否、特許請求の範囲の拡張・変更の存否、新規事項の有無 (1)訂正事項1について ア 訂正事項1は、訂正前の請求項1における「予め構成された機械学習モデル」に関して、「機械学習モデル」を「異物の位置に対応する画素を示す正解データを含む教師データを用いて学習された機械学習モデル」であると限定するとともに、「予め構成された」との事項を、「前記第1画像及び前記第2画像を入力することにより画素毎の異物である確からしさを示す異物尤度が出力されるように調整されたパラメータを含むように予め構成された」ことに限定するものであるから、特許法第120条の5第2項ただし書第1号に掲げる特許請求の範囲の減縮を目的とするものであり、実質上特許請求の範囲を拡張し、又は変更するものではない。 また、願書に添付した明細書、特許請求の範囲又は図面(以下「本件特許明細書等」という。)には、「具体的には、学習部102は、それぞれ所定位置に異物F(図5参照)が配置されたソフト画像P11及びハード画像P21と、上記所定位置(すなわち、異物Fが配置された領域)に対応する画素を示す正解データと、を含む教師データを用意する。」(段落【0034】)、「そして、学習部102は、このようにして得られた教師データ(ソフト画像P11、ハード画像P21、及び正解データ)を機械学習モデル103に入力することにより、機械学習モデル103を学習させる。学習部102は、上記機械学習を実行することにより、ソフト画像P10及びハード画像P20を入力して画素毎の異物尤度を出力するように構成されたニューラルネットワークを含む学習済みモデル(すなわち、ニューラルネットワークのパラメータが調整された機械学習モデル103)を構築する。ここで、異物尤度とは、異物である確からしさを示す情報である。」(段落【0035】)等の記載があることから、訂正事項1は、本件特許明細書等に記載した事項の範囲内においてしたものである。 イ 申立人は、令和6年10月3日提出の意見書(以下「意見書」という。)において、「また、訂正は実質的に特許請求の範囲を減縮しておらず、訂正の目的違反との観点から特許法第120条の5第2項の規定に違反するものであるから、本件訂正は認められるべきではないともいえます。」等の主張をしているが、下記第6の2で示す通り、「異物の位置に対応する画素を示す正解データを含む教師データを用いて学習された機械学習モデルであって、前記第1画像及び前記第2画像を入力することにより画素毎の異物である確からしさを示す異物尤度が出力されるように調整されたパラメータを含むように予め構成された」との事項は、「機械学習モデル」を実質的に特定するものであるし、上記アで示した通り、訂正事項1は、訂正前の請求項1における「予め構成された機械学習モデル」を限定するものであるから、申立人の上記主張は採用できない。 (2)訂正事項2について 訂正事項2は、訂正前の請求項2の記載が、請求項1の記載を引用する引用形式であったのを、独立形式に改めるものである。 よって、訂正事項2は、特許法第120条の5第2項ただし書第4号に規定する「他の請求項の記載を引用する請求項の記載を当該他の請求項の記載を引用しないものとすること」を目的とする訂正である。 (3)訂正事項3について 訂正事項3は、訂正前の請求項4の記載が、請求項1の記載を引用する引用形式であったのを、独立形式に改めるものである。 よって、訂正事項3は、特許法第120条の5第2項ただし書第4号に規定する「他の請求項の記載を引用する請求項の記載を当該他の請求項の記載を引用しないものとすること」を目的とする訂正である。 3 一群の請求項について 訂正前の請求項2~7は請求項1を直接的又は間接的に引用するものであるから、請求項1~7は一群の請求項であり、訂正事項1~3は、当該一群の請求項に請求されているものである。よって、訂正事項1~3は、特許法第120条の5第4項に適合するものである。 4 訂正についてのまとめ 上記のとおり、訂正事項1~3に係る訂正は、特許法第120条の5第2項ただし書第1号又は第4号に掲げる事項を目的とするものであり、かつ、同条第9項で準用する同法第126条第5項及び第6項の規定に適合するものである。 よって、特許請求の範囲を、本件訂正請求書に添付した訂正特許請求の範囲のとおり、訂正後の請求項1~7について訂正することを認める。 第3 本件発明 本件訂正請求により訂正された請求項1~7に係る発明(以下「本件発明1」~「本件発明7」という。)は、訂正特許請求の範囲の請求項1~7に記載された事項により特定される以下のとおりのものである。また、本件特許の請求項8(以下「本件発明8」という。)に係る発明は、本件特許の特許請求の範囲の請求項8に記載された事項により特定される以下のとおりのものである。 「【請求項1】 同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像と、前記被検査物を透過した前記第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像と、のセットを取得する画像取得部と、 異物の位置に対応する画素を示す正解データを含む教師データを用いて学習された機械学習モデルであって、前記第1画像及び前記第2画像を入力することにより画素毎の異物である確からしさを示す異物尤度が出力されるように調整されたパラメータを含むように予め構成された前記機械学習モデルに前記第1画像及び前記第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得し、前記画素毎の前記異物尤度に基づいて前記異物を検出する検出部と、を備える検査装置。 【請求項2】 同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像と、前記被検査物を透過した前記第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像と、のセットを取得する画像取得部と、 予め構成された機械学習モデルに前記第1画像及び前記第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得し、前記画素毎の前記異物尤度に基づいて前記異物を検出する検出部と、を備え、 前記機械学習モデルは、 前記第1画像及び前記第2画像を入力して1つの検査用画像を出力するように構成された第1機械学習モデルと、 前記第1機械学習モデルにより出力された前記検査用画像を入力して前記画素毎の前記異物尤度を出力するように構成された第2機械学習モデルと、を含む、検査装置。 【請求項3】 前記第1機械学習モデルは、前記第1画像及び前記第2画像を入力して、各画素に関連付けられる値の数である深さが2以上である経過画像を生成し、前記経過画像に基づいて前記深さが1である前記検査用画像を出力する、請求項2に記載の検査装置。 【請求項4】 同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像と、前記被検査物を透過した前記第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像と、のセットを取得する画像取得部と、 予め構成された機械学習モデルに前記第1画像及び前記第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得し、前記画素毎の前記異物尤度に基づいて前記異物を検出する検出部と、を備え、 それぞれ互いに関連する所定位置に異物が配置された前記第1画像及び前記第2画像と前記所定位置に対応する画素を示す正解データとを含む教師データを前記機械学習モデルに入力することにより、前記機械学習モデルを学習させる学習部を更に備え、 前記学習部は、前記機械学習モデルに前記教師データにおける前記第1画像及び前記第2画像を入力し、前記機械学習モデルにより出力された前記画素毎の前記異物尤度から決定される異物に対応する画素と前記教師データにおける前記正解データとの一致度が大きくなるように前記機械学習モデルのパラメータを調整する、検査装置。 【請求項5】 それぞれ互いに関連する所定位置に異物が配置された前記第1画像及び前記第2画像と前記所定位置に対応する画素を示す正解データとを含む教師データを前記機械学習モデルに入力することにより、前記機械学習モデルを学習させる学習部を更に備え、 前記学習部は、前記第1機械学習モデルに前記教師データにおける前記第1画像及び前記第2画像を入力し、前記第2機械学習モデルにより出力された前記画素毎の前記異物尤度から決定される異物に対応する画素と前記教師データにおける前記正解データとの一致度が大きくなるように、少なくとも前記第1機械学習モデルの第1パラメータを調整し、 前記第1パラメータの調整により、前記第1機械学習モデルが出力する前記検査用画像が変化する、請求項2又は3に記載の検査装置。 【請求項6】 前記学習部は、前記第2機械学習モデルにより出力された前記画素毎の前記異物尤度から決定される異物に対応する画素と前記教師データにおける前記正解データとの一致度が大きくなるように、前記第1パラメータと共に前記第2機械学習モデルの第2パラメータを同時に調整する、請求項5に記載の検査装置。 【請求項7】 前記第1画像及び前記第2画像の各々は、前記第1エネルギー帯及び前記第2エネルギー帯において異物を含んでいない前記被検査物が撮像された画像に対して、一以上の画素を含む領域に形成された仮想的な異物を示す仮想異物画像が配置された画像である、請求項4~6のいずれか一項に記載の検査装置。 【請求項8】 それぞれ互いに関連する所定位置に異物が配置された第1画像及び第2画像であって、同一の被検査物を透過した第1エネルギー帯の電磁波に基づく該第1画像と、前記被検査物を透過した前記第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく該第2画像と、のセットを取得する画像取得部と、 前記第1画像、前記第2画像、及び前記所定位置に対応する画素を示す正解データを含む教師データを用いて機械学習を実行することにより、前記第1画像及び前記第2画像を入力して画素毎の異物である確からしさを示す異物尤度を出力するように構成された学習済みモデルを構築する学習部と、を備える学習装置。」 第4 特許異議申立書の申立理由と当審が通知した取消理由 1 特許異議申立書の申立理由の概要 申立人は、証拠として以下(3)の甲第1号証ないし甲第7号証を提出し、以下(1)および(2)の異議申立理由(以下、「申立理由1」、「申立理由2」という)によって、本件発明1ないし8に係る特許を取り消すべきものである旨を主張している。 (1)申立理由1 訂正前の請求項1~8に係る発明は、甲第1号証に記載された発明、甲第2号証に記載された発明及び甲第3号証ないし甲第7号証に記載された事項に基づいて、当業者が容易に発明をすることができたものであり、特許法第29条第2項の規定に違反してされたものであるから、訂正前の請求項1~8に係る特許は、特許法第113条第2号に該当し、取り消されるべきものである。 (2)申立理由2 訂正前の請求項1に係る発明は、甲第2号証に記載された発明であるか、甲第2号証に記載された発明に基づいて、当業者が容易に発明をすることができたものであり、特許法第29条第1項第3号及び特許法第29条第2項の規定に違反してされたものであるから、訂正前の請求項1に係る特許は、特許法第113条第2号に該当し、取り消されるべきものである。 (3)証拠方法 甲第1号証:特許第6537008号公報 甲第2号証:特開2009-192519号公報 甲第3号証:小谷 学、外2名、「クラス毎の独立成分を用いたパターン認識方法」,電気学会論文誌C,125巻5号,2005年,p.807-812 甲第4号証:Xide Xia,外1名,“W-Net: A Deep Model for Fully Unsupervised Image Segmentation”,arXiv: 1711. 08506v1 [cs. CV],2017年11月22日,インターネット 甲第5号証:大手 希望,外5名,「畳み込みニューラルネットワークによるPET画像ノイズ除去」,MEDICAL IMAGING TECHNOLOGY,Vol.37,No.1,2019年1月,p.35-45 甲第6号証:瀧 雅人著、「機械学習スタートアップシリーズ これならわかる深層学習入門」,第4刷、株式会社講談社,2018年2月16日,p.116-117,125,157-163,169 甲第7号証:Junting Pan,外4名,“Shallow and Deep Convolutional Networks for Saliency Prediction”,arXiv: 1603.00845v1 [cs. CV],2016年3月2日,インターネット (以下、甲第○号証は「甲○」という。) 2 取消理由通知(決定の予告)の概要 当審が令和6年5月28日付けで通知した取消理由通知(決定の予告)の概要は、次の通りである。(以下、「取消理由」という。) 本件特許の請求項1に係る発明は、甲第2号証に記載された発明であるか、甲第2号証に記載された発明に基づいて当業者が容易に想到することができたものである。よって、本件特許の請求項1に係る特許は、特許法第29条第1項第3号及び第29条第2項の規定に違反してされたものであるから、特許法第113条第2号に該当し取り消すべきものである。 第5 甲号証の記載 1 甲1について (1)甲1には、以下の記載がある。(下線は当審で付加した。以下同様。)。 ア 「【0001】 本発明は、食品等の商品にX線等の光を照射して、商品の検査を行う検査装置に関する。 【背景技術】 【0002】 従来、特許文献1(特開2002―228761号公報)に開示されるように、食品等の商品にX線等の光を照射して、商品の検査を行う検査装置が用いられている。検査装置は、検査対象である商品を透過した光から得られた透過画像に基づいて商品の検査を行う。検査装置は、例えば、商品に混入している異物の有無、及び、商品に含まれる物品の個数を検査する。 ・・・ 【0004】 本発明の目的は、互いに重なり合うことがある複数の物品を含む商品の検査精度の低下を抑制することができる検査装置を提供することである。」 イ 「【0021】 X線検査装置10は、前段コンベア60によって連続的に搬送されてくる商品GにX線を照射することにより、商品Gの良否判断を行う。具体的には、X線検査装置10は、商品Gの異物混入検査を行い、検査結果に基づいて商品Gを良品又は不良品に分類する。X線検査装置10による検査結果は、X線検査装置10の下流側に配置されている振り分け機構70に送られる。振り分け機構70は、X線検査装置10において良品と判断された商品Gを、良品を排出する後段コンベア80へ送る。振り分け機構70は、X線検査装置10において不良品と判断された商品Gを、不良品排出方向90,91に振分けて検査ライン100から排出する。 ・・・ 【0023】 (2)X線検査装置の詳細な説明 X線検査装置10は、主として、シールドボックス11と、搬送ユニット12と、X線照射器20と、ラインセンサ30と、モニタ40と、制御装置50とから構成される。」 ウ 「【0040】 図6は、制御装置50のブロック図である。制御装置50は、主として、記憶部51と、制御部52とを有する。制御装置50は、コンベアモータ12a、エンコーダ12b、X線照射器20、ラインセンサ30及びモニタ40等に電気的に接続されている。制御装置50は、エンコーダ12bからコンベアモータ12aの回転数に関するデータを取得し、そのデータに基づいて商品Gの移動距離を算出する。制御装置50は、ラインセンサ30から出力されたX線透過信号を受信し、搬送ユニット12のベルト12d上の商品GがX線の照射範囲Xに到達したタイミングを検出する。制御装置50は、透過X線の強度に基づいて、商品Gに含まれる異物の有無を判定して、商品Gの良否を判定する。 ・・・ 【0043】 (2-6-1-1)透過画像記憶部 透過画像記憶部51aは、後述する透過画像生成部52aによって生成された透過画像に関するデータを記憶する。透過画像は、ラインセンサ30によって検出された透過X線量に基づいて生成された、商品GのX線画像である。 ・・・ 【0048】 (2-6-2)制御部 制御部52は、主として、透過画像生成部52aと、教師データ取得部52bと、学習部52cと、検査部52dとを有する。これらは、記憶部51に記憶されているプログラムを実行することによって実現される機能である。 【0049】 (2-6-2-1)透過画像生成部 透過画像生成部52aは、ラインセンサ30によって検出された透過X線量に基づいて、商品GのX線画像(透過画像)を生成する。具体的には、透過画像生成部52aは、ラインセンサ30の各X線検出素子から出力されるX線透過信号を所定の短い時間間隔で取得し、取得したX線透過信号に基づいて透過画像を生成する。すなわち、透過画像生成部52aは、扇状のX線の照射範囲X(図5参照)を商品Gが通過する際に各X線検出素子から出力されるX線透過信号に基づいて、商品Gの透過画像を生成する。照射範囲Xにおける商品Gの有無は、ラインセンサ30が出力する信号の出力のタイミングにより判断される。 ・・・ 【0055】 (2-6-2-3)学習部 学習部52cは、教師データ記憶部51bに記憶されている教師データを用いる機械学習によって、複数の物品Aが重なり合っている状態の商品Gに関する特徴を取得する。学習部52cが実行する機械学習は、いわゆる、ラベル付き訓練データを用いる教師有り学習である。教師有り学習は、多数のラベル付き訓練データを解析して、ラベルに関する特徴を学習する方法である。教師有り学習では、種種のニューラルネットワークモデルが利用可能である。 【0056】 学習部52cは、商品Gの透過画像のデータと、当該透過画像の重なり領域データ及び異物領域データとが関連付けられた多数の教師データを解析する。これにより、学習部52cは、教師データに含まれる異物有り画像データ及び異物無し画像データの特徴量を取得する。学習部52cが取得する特徴量は、複数の物品Aが重なり合っている状態の商品Gに関する特徴に関するデータである。特徴量のフォーマットは、手動で予め設計されている。学習部52cは、商品Gの異物混入検査を行う前に教師データを解析して特徴量を取得して、取得した特徴量を特徴量記憶部51cに記憶させる。 【0057】 (2-6-2-4)検査部 検査部52dは、学習部52cが取得した特徴量を用いて、商品Gを検査する。具体的には、検査部52dは、特徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類する。 【0058】 検査部52dは、商品Gの検査結果に基づいて、商品Gに関する良品/不良品の判定を行う。検査部52dは、未検査の商品Gの透過画像のデータが異物無し画像データであり、商品Gに異物Cが含まれていないと判断した場合に、商品Gを良品と判定する。一方、検査部52dは、未検査の商品Gの透過画像のデータが異物有り画像データであり、商品Gに異物Cが含まれていると判断した場合に、商品Gを不良品と判定する。」 エ 【0068】 (5-1)変形例A 実施形態では、教師データ取得部52bは、異物Cを含む商品Gの透過画像のデータである異物有り画像データ、及び、異物Cを含まない商品Gの透過画像のデータである異物無し画像データを、重なり領域データ及び異物領域データと関連付けて、教師データとして取得する。しかし、教師データ取得部52bは、異物有り画像データの代わりに、異物Cを含まない商品Gの透過画像に仮想的な異物VCの画像を組み込んだ画像のデータである仮想異物有り画像データを取得してもよい。仮想異物有り画像データは、例えば、異物Cを含まない商品Gの透過画像の任意の場所に、仮想的な異物VCの画像を手動で追加して生成してもよく、また、異物Cを含まない商品Gの透過画像に仮想的な異物VCの画像を自動で追加するプログラムを実行して生成してもよい。仮想的な異物VCの画像は、例えば、実際の異物Cの透過画像と同程度の輝度を有する画素の集合である。」 オ 「【0078】 (5-4)変形例D 実施形態では、X線検査装置10は、教師データを利用する機械学習によって取得した、複数の物品Aが重なり合っている状態の商品Gに関する特徴に基づいて、商品Gの検査を行う。しかし、X線検査装置10は、機械学習を用いて取得した複数の検査結果に基づいて、商品Gの最終的な検査結果を取得してもよい。この場合、複数の検査結果は、互いに異なる複数のニューラルネットワークモデルを用いた教師有り学習によって取得される。検査部52dは、例えば、複数の機械学習アルゴリズムを用いて商品Gの検査を行い、複数の検査結果に基づいて商品Gの最終的な検査結果を取得する。 【0079】 次に、本変形例における商品Gの最終的な検査結果の取得方法の具体例について説明する。図10は、本変形例における商品Gの透過画像の一例である。検査部52dは、2種類の機械学習アルゴリズムを用いて、商品Gの検査結果を2つ取得する。以下、取得した2つの検査結果を、第1検査結果及び第2検査結果と呼ぶ。図10において、第1検査結果では、実線で囲まれた検査領域R1,R2に異物Cが存在すると判定され、第2検査結果では、点線で囲まれた検査領域R3に異物Cが存在すると判定されたと仮定する。実際には、検査領域R1及び検査領域R3に異物Cが存在し、検査領域R2に異物Cが存在しない。 【0080】 複数の機械学習アルゴリズムを用いる商品Gの検査では、各検査領域R1~R3には確信度のパラメータが設定される。確信度とは、各検査領域R1~R3に異物Cが存在する可能性を表すパラメータである。確信度の最小値は0であり、最大値は1である。ある検査領域の確信度が大きいほど、当該検査領域に異物Cが存在する可能性が高い。図10において、第1検査結果の検査領域R1の確信度は0.9であり、第1検査結果の検査領域R2の確信度は0.8であり、第2検査結果の検査領域R3の確信度は0.7であるとする。この場合、検査部52dは、第1検査結果及び第2検査結果から、商品Gの最終的な検査結果を、以下に説明する方法で取得する。 【0081】 異なる検査結果の検査領域が互いに重なり合っている場合、互いに重なり合っている検査領域の確信度の平均に、検査領域の重なり具合に応じた1以上の係数を乗じて、最終的な確信度を取得する。図10の場合、検査領域R1と検査領域R3とが重なり合っているので、検査領域R1の確信度0.9と検査領域R3の確信度0.7との平均0.8に、係数1.2を乗じた0.96が、検査領域R1及び検査領域R3の最終的な確信度となる。この場合の係数は、検査領域の重なり具合、すなわち、互いに重なり合っている検査領域の数が大きいほど高い。例えば、2つの検査領域が重なり合っている場合、係数は1.2であり、3つの検査領域が重なり合っている場合、係数は1.5である。 ・・・ 【0083】 そして、検査部52dは、所定の閾値以上の最終的な確信度を有する検査領域に異物Cが存在すると判定する。図10の場合、所定の閾値が0.95であるとすると、検査部52dは、閾値0.95以上の最終的な確信度0.96を有する検査領域R1及び検査領域R3に異物Cが存在すると判定する。このように、検査部52dは、複数の検査結果に基づく多数決により、商品Gの最終的な検査結果を取得することで、商品Gの検査の信頼性を向上させることができる。」 カ 「【0085】 (5-5)変形例E 実施形態及び他の変形例では、X線検査装置10は、教師データを利用する機械学習によって取得した、複数の物品Aが重なり合っている状態の商品Gに関する特徴に基づいて、商品Gの検査を行う。学習部52cが実行する機械学習は、教師有り学習である。教師有り学習は、多数のラベル付き訓練データを解析して、所定の特徴量を学習する方法である。教師有り学習では、特徴量のフォーマットを手動で予め設計しておく必要がある。 【0086】 しかし、学習部52cが実行する機械学習は、ラベル付き訓練データを用いない学習であってもよい。例えば、学習部52cは、深層学習のアルゴリズムを用いて、多数の商品Gの透過画像から、異物有り画像データ及び異物無し画像データの特徴量を自動で抽出してもよい。この場合、特徴量のフォーマットを手動で予め設計しておく必要がない。そのため、異物有り画像データと異物領域データとを関連付けた教師データを用意する必要がなく、教師データの準備に要する時間を短縮することができる。従って、X線検査装置10は、商品Gの透過画像に関するデータから特徴量を自動で抽出するアルゴリズムを用いることで、機械学習を利用する商品Gの検査を効率的に行うことができる。」 (2)上記(1)より、甲1には、次の発明(以下、「甲1発明」という。)が記載されていると認められる。 「商品GのX線画像である透過画像を生成する透過画像生成部52aと、(段落【0043】) 商品Gの透過画像のデータと、当該透過画像の重なり領域データ及び異物領域データとが関連付けられた多数の教師データを解析し、教師データに含まれる異物有り画像データ及び異物無し画像データの特徴量を取得し、特徴量記憶部51cに記憶させる、ニューラルネットワークが利用できる学習部52cと、(段落【0055】、【0056】) 特徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類し、未検査の商品Gの透過画像のデータが異物有り画像データであり、商品Gに異物Cが含まれていると判断した場合に、商品Gを不良品と判定する検査部52dと、(段落【0057】、【0058】) を備えるX線検査装置10。(段落【0023】)」 2 甲2について (1)甲2には、以下の記載がある。 ア 「【0008】 また、異なる2つのX線エネルギー(線質)よる同一被検査物の透過X線データを用いて被検査物の基準物質の厚さに変換し、被検査物の厚さに変換された2つの変換データの差分を取ることにより異物を検出する異物検出装置であっても、被検査物の物性が一様でなくばらつく場合には変換される厚さにばらつきが生じてしまい、被検査物とほぼ同一の透過X線データ濃度の異物を区別することができないという課題が残っていた。 【0009】 そこで、本発明は上記問題点に鑑みてなされたものであって、被検査物の内容物の重なりなどによって被検査物の透過X線データ濃度が異物の透過X線データ濃度のほぼ同一となったとしても、内容物の重なりによる影響を受けずに確実に異物を検出するX線異物検出装置を提供することを目的とする。 【課題を解決するための手段】 【0010】 本発明の発明者は、物品に異物が含まれた被検査物に対してX線を照射して得られる被検査物のX線透過画像が、物品のX線透過画像と異物のX線透過画像の合成画像と同等であり、物品のX線透過画像と異物のX線透過画像のそれぞれが互いに統計的に独立した成分であることに着目し、独立成分分析を用いることによって被検査物のX線透過画像から異物のX線透過画像を導き出すことできると考え、本発明に到達したものである。」 イ 「【0028】 図1に示すように、本実施形態のX線異物検出装置は、例えば袋状の包装材や所定形状の包装容器中に複数個の内容物を収納した被検査物Pを検査する装置で、被検査物Pを透過したX線を検出する検出手段10(X線検出手段)と、被検査物Pを所定方向に搬送する搬送手段11とを備えている。 【0029】 検出手段10は、被検査物Pに向けてX線を照射するX線源13と、照射されたX線のうち被検査物Pを透過したX線を検出するX線検出部14とを含んで構成されている。 【0030】 X線源13は、例えば陰極フィラメントからの熱電子をその陰極と陽極の間の高電圧により陽極ターゲットに衝突させてX線を発生させるX線管を有しており、発生したX線を下方のX線検出部14に向けて搬送手段11の搬送方向と直交する方向(以下、幅員方向という)に広がる略円錐状に照射するようになっている。 【0031】 X線検出部14は、複数(本実施の形態では二つ)のX線センサ14a,14bを備えている。各X線センサ14a,14bは、ライン状に形成され、X線異物検出装置の本体をなす筐体5の下部にて、上記X線発生部13から略円錐状に照射されたX線を受ける範囲内で併設されている。 ・・・ 【0033】 図1に示すように、X線センサ14a側には、X線のX線エネルギー(線質)を異ならせる線質可変体15が設けられている。この線質可変体15は、例えば、アルミニウムなどの金属や、カーボンや樹脂材が薄板状に形成されたフィルタをなしている。そして、線質可変体15は、X線センサ14aのX線を受けるべき部位であって、例えば上記シンチレータ上面、あるいは不図示のスリットを覆うように配される。線質可変体15は、X線センサ14aで受けるX線の透過量を減衰させる。これにより、X線センサ14aで受けるX線と、X線センサ14bで受けるX線のX線エネルギー(線質)を異ならせることとなる。なお、本実施の形態では、線質可変体15は、X線センサ14a側にのみ設けられているが、各X線センサ2a,2bにて受けるX線の線質が異なる別の種類の線質可変体15を各X線センサ14a,14bそれぞれに設けてもよい。 ・・・ 【0036】 この制御部20は、機能的には、図1に示すように、X線検出部14から出力される検出信号に基づく被検査物Pの異なるエネルギー帯毎の透過画像を記憶する透過画像記憶手段21と、透過画像記憶手段21に記憶された透過画像に基づいて画像処理を実施する画像処理手段23と、画像処理手段23によって処理された結果画像に基づき公知の所定の判定処理プログラムを実行して被検査物P中の異物の有無を判定する判定手段22とを含んで構成されており、判定手段22の判定結果に対応する検査結果情報を表示器30へ出力するようになっている。表示器30は、例えばフラットパネルディスプレイで構成された表示手段である。 【0037】 透過画像記憶手段21は、X線検出部14から出力される検出信号から、複数(本実施の形態では二つ)の異なるエネルギー帯毎の透過X線データを取得し、各透過X線データから得られる透過画像が重なるように各透過X線データをスケーリングし、グレースケールにデジタル化された透過画像(X線透過画像)を記憶 するようになっている。 ・・・ 【0039】 画像処理手段23は、透過画像記憶手段21に記憶された複数のX線透過画像を異物画像と異物を含まない被検査物の画像をそれぞれ重み付けして合成された観測画像とみなして独立成分分析を行い、特定の異物を含まない被検査物の画像(以後、分離物品画像とよぶ)と特定の異物のみからなる画像の異物画像(分離異物画像)に分離抽出する独立成分分析手段24と、分離抽出された複数の分離画像の中から異物画像を識別する異物画像識別手段26と、分離抽出された異物画像に対しさらに異物を強調するフィルタ処理手段25と、から構成され、異物のみの画像を生成するようになっている。 なお、独立成分分析手段24の詳細については後述する。 【0040】 フィルタ処理手段25は、独立成分分析手段24によって分離抽出された異物画像に対し、必要に応じて判定手段22で判定がより確実になるように異物を強調する。例えば、平滑化フィルタなどのフィルタ処理を行うようになっている。 なお、フィルタ処理手段25は判定がより確実になるようにするためのものであり、フィルタ処理手段25が無い構成としても別段問題はない。 【0041】 判定手段22は、画像処理手段23によって得られるグレースケールの分離抽出された異物画像を基に、その異物画像の濃度の最大値が予め設定された閾値を超える場合に異物が有ると判定するようになっている。 ・・・ 【0043】 次に、独立成分分析手段24で用いられる独立成分分析について説明する。 図2に、独立成分分析の概念についての説明図を示す。 【0044】 独立成分分析とは、互いに独立なN種類の情報源から発生した信号が線形に重ね合わされたN種類の観測情報を得たとき、それら観測情報から元の独立な情報を分離抽出する手法であり、N種類の情報源が互いに独立し、情報源のうち2つ以上が正規分布に従わない場合に、観測情報から元の独立な情報を推定することが可能である手法である。 【0045】 ここで、N=2としてX線異物検査装置に対応させて考えてみると、図2に示すように、N種類の情報源は、1つの異物画像S1と1つの異物を含まない被検査物S2の画像であり、それらが重み付けをされて重ね合わされた1つの観測情報を生み出す。そして、この観測情報は、異物を含む被検査物にX線を照射して得られるX線透過画像として得ることができる。そしてさらに、異なるエネルギー帯のX線透過画像を得ることによりN種類の観測情報を得ることができる。すなわち、異なるエネルギー帯のX線透過画像を得ることは、1つの異物画像S1と1つの異物を含まない被検査物の画像S2に対し重み付けを変えて重ね合わされた複数の観測情報を得るのと同等である。 なお、情報源が画像なので、以後、情報源の画像を原画像S、観測情報を観測画像X、観測画像Xから分離抽出された画像を分離画像Yと呼ぶことにする。 ただし、原画像S、観測画像X、分離画像Yは、 [図:0001418215000001.jpg] とする。 【0046】 観測画像Xと分離画像Yの関係を考えてみると、図2のように観測画像Xと原画像Sの関係は行列Aを用いてX=ASと表現することができる。したがって分離画像Yを求めるには、Aの逆変換A-1を用いれば観測画像から原画像Sと同等の分離画像Yが得られるはずである。しかし行列Aは未知であるため、Y=WXのような適当な行列Wを用いて観測画像Xを変換し、原画像Sに近づくように行列Wを修正しながら分離画像Yを求める。ここで、原画像Sは互いに独立し正規分布に従わない場合を想定しているので、分離画像Yの各画像が互いに独立になるように行列Wを逐次的に修正していく。このように分離画像Yの各画像が互いに独立になるように行列Wを逐次的に修正していく処理が独立成分分析と呼ばれ、修正していく行列Wが分離行列Wと呼ばれており、分離行列Wは、 [図:0001418215000002.jpg] となる。また、分離行列Wを更新して分離画像Yを独立にしていくことをここでは学習と呼ぶことにする。 【0047】 独立成分分析を行う方法についてはいろいろ研究されているが、本実施の形態の独立成分分析では、分離画像Yの各画像が互いに独立になるまでの収束が速いFastICA(Fast Independent Component Analysis : 高速独立成分分析)処理を行っている。このFastICA処理は、前処理として白色化を実行し、白色化された画像に対し、不動点法を用いたFPICA(Fixed-Point ICA)処理を行っている。」 ウ 【図1】 「 [図:0001418215000003.jpg] 」 エ 【図2】 「 [図:0001418215000004.jpg] 」 オ 【図3】 「 [図:0001418215000005.jpg] 」 (2)甲2の記載から認定できる事項 上記(1)イの段落【0037】には、「透過画像記憶手段21は、X線検出部14から出力される検出信号から、複数(本実施の形態では二つ)の異なるエネルギー帯毎の透過X線データを取得し、各透過X線データから得られる透過画像が重なるように各透過X線データをスケーリングし、グレースケールにデジタル化された透過画像(X線透過画像)を記憶するようになっている。」と記載されているから、甲2には、同段落【0039】に記載された「透過画像記憶手段21に記憶された複数のX線透過画像」における「複数」が「二つ」である場合も記載されているといえる。 (3)上記(1)、(2)より、甲2には、次の発明(以下、「甲2発明」という。)が記載されていると認められる。 「袋状の包装材や所定形状の包装容器中に複数個の内容物を収納した被検査物Pを検査するX線異物検出装置であって、 被検査物Pを透過したX線を検出する検出手段10(X線検出手段)と、被検査物Pを所定方向に搬送する搬送手段11とを備えており、 検出手段10は、被検査物Pに向けてX線を照射するX線源13と、照射されたX線のうち被検査物Pを透過したX線を検出するX線検出部14とを含んで構成されており、 X線検出部14は、二つのX線センサ14a,14bを備えており、X線センサ14aで受けるX線と、X線センサ14bで受けるX線のX線エネルギー(線質)は異なり、 透過画像記憶手段21は、X線検出部14から出力される検出信号から、二つの異なるエネルギー帯毎の透過X線データを取得し、各透過X線データから得られる透過画像が重なるように各透過X線データをスケーリングし、グレースケールにデジタル化された透過画像(X線透過画像)を記憶し、 画像処理手段23は、透過画像記憶手段21に記憶された二つのX線透過画像を異物画像と異物を含まない被検査物の画像をそれぞれ重み付けして合成された観測画像とみなして独立成分分析を行い、特定の異物を含まない被検査物の画像と特定の異物のみからなる画像の異物画像(分離異物画像)に分離抽出する独立成分分析手段24と、分離抽出された二つの分離画像の中から異物画像を識別する異物画像識別手段26と、分離抽出された異物画像に対しさらに異物を強調するフィルタ処理手段25と、から構成され、異物のみの画像を生成するようになっており、 フィルタ処理手段25が無い構成としても別段問題はなく、 独立成分分析では、分離行列Wを更新して分離画像Yを独立にしていく学習を、分離画像Yの各画像が互いに独立になるまでの収束が速いFastICA処理で行い、 判定手段22は、画像処理手段23によって得られるグレースケールの分離抽出された異物画像を基に、その異物画像の濃度の最大値が予め設定された閾値を超える場合に異物が有ると判定する、 X線異物検出装置。」 3 甲3について (1)甲3には、以下の記載がある。 ア 「独立成分分析(Independent Component Analysis:ICA)による特徴抽出に関する研究が最近注目を集めている。例えば,Olshausen (1) らはスパースコーディングを自然画像に対して適用し,得られた基底関数の特性はウェーブレット関数に類似して空間的・周波数的に局所化しており,生体の初期視覚野の応答と類似していることを示した。また,Infomax (2) やFastICA(3) などによっても,同様な結果が得られることが明らかにされている(4) (5)。一方,Bellら(6) は音響信号にInfomax を適用し,画像と同じようにウェーブレット関数に類似した基底関数が得られることを示している。また,Lewicki ら(7) は独立成分分析による音声のコーディングの効率を評価している。さらに,小谷ら(8)は日本語音声に対して独立成分分析を適用し,いくつかの独立成分は音素に対応していることを示している。 一方,独立成分分析によって得られる特徴を市場の予測(9) (10) やパターン認識(11)~(14) に利用する研究がいくつか報告されている。Back (9) は独立成分分析を株価のような多次元時系列信号に適用し,独立成分分析を適用することによって,主成分分析を用いるよりも入力信号の本質的な構造が抽出できることを示している。Weingessel ら(10) は独立成分分析をマーケットの解析に適用し,その有効性を示している。また,Bartlett ら(11) は独立成分分析を顔画像認識に適用し,独立成分が主成分よりも認識率の点で有効であると主張している。Lee ら(12) は独立成分を孤立単語認識の特徴量として適用し,音声認識で従来よく用いられているメルケプストラムよりも高い認識率が得られることを示している。さらに,手書きひらがな文字認識に独立成分を適用する研究(13) (14) も報告されている。そこでは,認識率の向上には冗長な独立成分の削除が有効であるが,独立成分を用いた認識率は主成分を用いた場合よりも若干低下することが報告されている。すなわち,この結果は,単 に独立性を高めるだけでは必ずしも認識に有効な特徴量が抽出されるとは限らないことを示唆している。 そこで本論文では,統計的に独立なだけでなく,認識に有効な特徴量を抽出する方法を検討する。つまり,教師なし学習である独立成分分析を教師付き学習に拡張することを考える。このような教師付き独立成分分析に関する研究(15)~(17)は種々提案されている。例えば,Kwakら(15)はクラス情報を入力信号に付加して独立成分分析を行っており,得られた独立成分特徴が認識率の点で良好であることを示している。梅山ら(16) も独立成分分析に教師信号を導入し,教師信号と相関の高い独立な成分を求めることが顔認識に有効であることを示している。また,坂口ら(17)は独立成分分析で抽出した特徴のクラス間距離を最大化するアルゴリズムを提案し,異なるデータセットに対して安定した性能を与える独立成分特徴の抽出に成功している。」(第807頁下左欄第2行~第808頁左欄第6行) イ 「本論文では,クラスタリングによる分割ではなく,学習用データのクラス情報を利用する方法を提案する。具体的には,CLAFIC (20) に代表される部分空間法において,独立基底で張られる部分空間を用いる方法を提案する。ただし,一般に独立基底は互いに直交しないため,CLAFIC で用いられるクラス判定方法をそのまま使うことはできない。そこで,Committee Machine (21) やモジュールネット(22)で利用される多数決ルールを適用したクラス判定方法を導入する。本論文では,このような提案方法の有効性を評価するために,機械学習でよく用いられる標準データセットに適用する。さらに,主成分分析を用いた場合などとの比較を行う。」(第808頁左欄第13行~第24行) ウ 「〈3・1〉非直交座標系における部分空間法 部分空間法とはクラス毎にそのクラスを適切に表現する部分空間を用意して,その部分空間内で未知パターンを認識する方法(23)である。これは,特徴ベクトルが多次元特徴空間に偏って分布する性質を利用している。 このような部分空間法と独立成分分析を組み合わせることは,クラスmの入力信号(混合信号)ベクトルxmから独立成分ベクトルsmを求める際の分離行列Wmが,各クラスで異なる場合に特に有効であろうと考えられる。すなわち,各クラスで異なる独立な要因によって入力信号が得られている場合である。なお,sm=Wmxmで,入力信号数と独立成分数は等しいと仮定する。」(第808頁右欄第5行~第16行) エ 「モジュール毎に分離行列を求めてから,全ての学習用データをl番目のモジュールに入力し,q次元の独立成分ベクトルを求める。これらを識別時のテンプレートデータとする。」(第809頁左欄第29行~第32行) 4 甲4について (1)甲4には、以下の記載がある。また、各摘記部分について、後続して翻訳文を付記した。なお、翻訳文については、申立人による訳を採用した。以下同様。 ア 「W-Net: A Deep Model for Fully Unsupervised Image Segmentation」(第4321頁第1行) 「W-Net:完全に教師なしの画像セグメンテーションのためのディープモデル」 イ 「Deep neural networks have emerged as a key component in many visual recognition problems, including supervised learning for semantic image segmentation.」(第4322頁左欄第45~47行) 「ディープニューラルネットワークは、セマンティック画像セグメンテーションのための教師あり学習を含む、多くの視覚認識問題における重要なコンポーネントとして登場した。」 ウ 「The network architecture is illustrated in Figure 2. It is divided into an UEnc (left side) and a corresponding UDec (right side); in particular, we modify and extend the typical U-shaped architecture of a U-Net network described in [27] to a W-shaped architecture such that it reconstructs original input images as well as predicts the segmentation maps without any labeling information. 11」(第4322頁右欄第36~42行) 「ネットワークの構成が図2に示されている。構成は、UEnc (左側)と対応するUDec (右側)に分かれる;特に、[27]で述べられているU-Netネットワークの典型的なU字型構成をW字型構成に修正し拡張することで、元の入力画像を再構成するだけでなく、ラベリング情報なしでセグメンテーションマップを予測する。」 エ 「 [図:0001418215000006.jpg] Figure 2. W-Net architecture. The W-Net architecture is consist of an UEnc (left side) and a corresponding UDec (right side). It has 46 convolutional layers which are structured into 18 modules marked with the red rectangles. Each module consists of two 3 x 3 convolutional layers. The first nine modules form the dense prediction base of the network and the second 9 correspond to the reconstruction decoder.」(第4323頁上欄) 「図2. W-Netアーキテクチャ。W-Netアーキテクチャは、UEnc(左側)と対応するUDec(右側)で構成される。46の畳み込み層があり、赤い四角で示した18のモジュールに分かれている。各モジュールは2つの3×3の畳み込み層で構成される。最初の9つのモジュールはネットワークの密な予測ベースを形成し、後の9つは再構成デコーダーに対応する。」 オ 「The contracting path starts with an initial module which performs convolution on input images. In the figure, the output sizes are reported for an example input image resolution of 224 x 224. Modules are connected via 2 x 2 max-pooling layers, and we double the number of feature channels at each downsampling step. 」(第4323頁左欄第2~7行) 「縮小パスは、入力画像の畳み込みを実行する初期モジュールから始まる。図では、入力画像解像度の例として224X 224 の出カサイズが報告される。モジュールは2X 2の最大プーリング層を介して接続されており、各ダウンサンプリングステップで機能チャネルの数が2倍になる。」 カ 「In the expansive path, modules are connected via transposed 2D convolution layers. We halve the number of feature channels at each upsampling step. As in the U-Net model, the input of each module in the contracting path is also bypassed to the output of its corresponding module in the expansive path to recover lost spatial information due to downsampling. The final convolutional layer of the UEnc is a 1 x 1 convolution followed by a softmax layer. The 1 x 1 convolution maps each 64-component feature vector to the desired number of classes K, and then the softmax layer rescales them so that the elements of the K-dimensional output lie in the range (0, 1) and sum to 1. The architecture of the UDec is similar to the UEnc except it reads the output of the UEnc which has the size of 224 x 224 x K. The final convolutional layer of the UDec is a 1 x 1 convolution to map 64-component feature vector back to a reconstruction of original input.」(第4323頁左欄第7~23行) 「拡大パスでは、モジュールは転置された2D畳み込み層を介して接続される。アップサンプリングの各ステップでフィーチャチャネルの数を半分にする。U-Netモデルと同様に、縮小パスの各モジュールの入力も、拡大パスの対応するモジュールの出力にバイパスされ、ダウンサンプリングによって失われた空間情報が回復される。UEncの最後の畳み込み層は、lxl畳み込みとその後にソフトマックス層が続く。lxl畳み込みは、各64成分の特徴ベクトルを目的の数のクラスKにマップし、その後、K次元の出力の要素が(0,1)の範囲内にあり、合計が1になるようにソフトマックス層がそれらを再スケーリングする。UDecのアーキテクチャは、224x224xKのサイズを持つUEncの出力を読み取ることを除いて、UEncと似ている。UDecの最後の畳み込み層は、64成分の特徴ベクトルを元の入力の再構成にマップし直すための1X1畳み込みである。」 キ 「Instead, we define a soft version of the Neut loss which is differentiable so that we can update gradients during backpropagation: [図:0001418215000007.jpg] where p(u = Ak) measures the probability of node u belonging to class Ak, and which is directly computed by the encoder. By training UEnc to minimize the Jsoft-Ncut loss we can simultaneously minimize the total normalized disassociation between the groups and maximize the total normalized association within the groups.」(第4324頁左欄第9~22行) 「代わりに、誤差逆伝播中に勾配を更新できるように、微分可能なNcut損失のソフトバージョンを定義する。 ・・・ ここで、P(u=Ak)はノードUがクラスAkに属する確率を表わし、エンコーダーによって直接計算される。Jsoft-Ncut損失を最小化するようにUEncをトレーニングすることで、グループ間の正規化された非関連付けの合計を最小化し、グループ内の正規化された関連付けの合計を最大化することができる。」 ク 「Algorithm 1 Minibatch stochastic gradient descent training of W-Net. 1: procedure W-NET (X; UEnc; UDec) 2: for number of training iterations do 3: Sample a minibatch of new input images x 4: Update UEnc by minimizing Jsoft-Ncut 5: Only update UEnc 6: Update whole W-Net by minimizing Jreconstr 7: Update both UEnc and UDec 8: return UEnc」(第4324頁右欄第7~16行) 「アルゴリズム1W-Netのミニバッチ確率的勾配降下学習。 1:W-NET (X; UEnc; UDec)の手順 2: トレーニングの反復回数に応じて以下を行う。 3: 新しい入力画像xのミニバッチをサンプリングする。 4: Jsoft-Ncutの最小化により UEnc を更新する。 5: UEncのみ更新 6: Jreconstrの最小化により W-Net全体を更新する。 7: UEncとUDecの両方を更新する。 8: UEncを返す」 ケ 「We resize the input images to 224 x 224 during training, and the architecture of the trained network is shown in Figure 2. We train the networks from scratch using minibatches of 10 images, with an initial learning rate of 0.003. The learning rate is divided by ten after every 1,000 iterations.」(第4326頁左欄第7~12行) 「トレーニング中に入力画像のサイズを224X224に変更する。トレーニングされたネットワークのアーキテクチャを図2に示す。最初から10枚の画像のミニバッチを使用し、初期学習率0.003でネットワークをトレーニングする。学習率は1,000回反復するごとに10で割られる。」 5 甲5について (1)甲5には、以下の記載がある。 ア 「そこで本研究では,畳み込みニューラルネットワーク(convolutional neural network: CNN)の構造の違いによるPET画像のノイズ除去効果を比較・検討することを目的とする.」(第36頁左欄第32~35行) イ 「2) UR-Net, UR-Net X 2 UR-Netは,U-Net[46]とresidual learning [47]を組み合わせた構造となる.画像を縮小していくエンコーダ一部,画像を拡大していくデコーダー部,特徴マップを画像に変換する再構成部からなる. エンコーダー部は畳み込み7層からなり,ストライド2の畳み込みで特徴マップを縮小する.デコーダ一部は畳み込み4層と逆畳み込み[50]3層から成り,ストライド2の逆畳み込みで特徴マップを拡大する.再構成部は畳み込み1層から成る.なお,活性化関数にはReLUを使用し,図1に示すように,2,4,6層目を8,10,12層目にスキップ結合する.最後に,入力画像と再構成部の出力画像を加算してノイズ除去画像とする.上記ネットワーク構造は,Xuらのネットワーク構造[48]とは異なり,ストライドを使って特徴マップを縮小または拡大している. UR-Net X 2は,UR-Netを2段積み重ねた30層のCNNである.」(第36頁右欄第9~29行) ウ 「 [図:0001418215000008.jpg] 」 エ 「損失関数にはノイズ除去したパッチの真のパッチの二乗誤差のミニバッチ平均を利用し、誤差逆伝播法[56,57]とAdam[58]により、CNNの内部パラメーターを20万回更新した.」(第39頁左欄第1~4行) 6 甲6について (1)甲6には、以下の記載がある。 ア 「そこでデルタ則を違う観点から理解してみましょう.実は(y^(x)-y) xiという量には、数理的な意味があります。出力層の活性化関数が恒等写像だとすると、出力はy^(x)=Σiwixiです.ただしバイアスは省略しましょう.これと目標出力の間の二乗誤差は E= (y^(x)-y) 2/ 2ですので、 (Y^(x)-y)xiはこの誤差のパラメータwiによる微分にほかならないのです.つまりデル夕則は、出力の二乗誤差を極小になるように最適化する勾配降下法にほかなりません.」(第116頁第19~25行) イ 「デルタ則を多層のニューラルネットに拡張したものが、これから紹介する誤差逆伝播法(backpropagation method, backprop)です.」(第117頁第14~15行) ウ 「誤差逆伝播法の技術的説明が済みましたので、ここでは誤差逆伝播法に現れたデルタの意味を考えましょう[39]. 出力層におけるデルタはδj(L)=yj^(x)-yjという形をしていました.これは訓練サンプルxを入力した際の最終出力y^と、訓練サンプルの目標値yの差ですので、まさにニューラルネットによる推論の誤差です.勾配降下法はこの誤差をできるだけ打ち消すように、出力層とその手前の層の間の重みパラメータWpq(L)を修正します.」(第125頁第2~8行) エ 「 [図:0001418215000009.jpg] 」(第158頁) オ 「実際の画像データは1つの位置(i,j)に対して、色成分の情報など多くの情報が付与されています。そのような自由度をチャネル(channel)と呼びます。RGBカラーを用いた画像では1つの位置(i,j)に、赤、緑、青の3色の成分量に応じて3種類k=0,1,2の数値Xijk=Zijkが付随しています。これを一般化してKチャネルk=0 1...,Kを考えることにします。すると図8.3のように、1枚の画像も、各チャネルに応じたK枚の画像でできているとみなすことができます。」(第158頁第1~7行) カ 「畳み込み後も多チャネル画像がほしいならば、ほしいチャネル数Mに応じてKチャネルのフィルタhpqkm(k=O,1,...,K-1)をM種類(m=0,1,...,M-1)用意して、これを畳み込ませます。」(第161頁第12~15行) キ 「したがって通常の誤差逆伝播法を用いることで、重みであるフィルタを学習することができます。」(第162行第5~7行) 7 甲7について (1)甲7には、以下の記載がある。 ア 「 [図:0001418215000010.jpg] 」(第4頁左欄) イ 「Figure 4 illustrates the layer architecture of the network, composed of 10 weight layers and a total of 25.8 million parameters. The architecture of the first 3 weight layers is compatible with that of the VGG network from [6]. Each convolutional layer is followed by a rectified linear unit nonlinearity(ReLU). Pooling layers follow the first two convolutional layers, effectively reducing the width and height of the feature maps in the intermediate layers by a factor of four. A deconvolution layer follows the final convolution to produce a saliency map that matches the input width and height.」(第4頁左欄第18行~右欄第1行) 「図4は、10の重み層と合計2,580万のパラメータで構成されるネットワークの層アーキテクチャを示す。最初の3つの重み層のアーキテクチャは、[6]のVGGネットワークのアーキテクチャと互換性がある。・・・デコンボリューションレイヤーは、最終コンボリューションの後に続き、入力の幅と高さに一致するサリエンシーマップを生成する。」 第6 当審の判断 1 新規性、進歩性について 1-1 甲2発明を主引用発明とした場合について (1)本件発明1(取消理由、申立理由2について) ア 対比 (ア)本件発明1と甲2発明とを対比する。 a(a)甲2発明の「被検査物P」及び「X線」は、それぞれ本件発明1の「被検査物」及び「電磁波」に相当する。 (b)甲2発明において、「被検査物Pを透過したX線を検出するX線検出部14」の「X線センサ14aで受けるX線と、X線センサ14bで受けるX線のX線エネルギー(線質)は異な」っており、「X線検出部14から出力される検出信号から、二つの異なるエネルギー帯毎の透過X線データを取得し、各透過X線データから得られる透過画像が重なるように各透過X線データをスケーリングし、グレースケールにデジタル化された透過画像(X線透過画像)」が得られるから、甲2発明の「被検査物Pを透過したX線」のうち「X線センサ14aで受けるX線」に基づく「エネルギー帯」の「透過X線データから得られる」「グレースケールにデジタル化された透過画像(X線透過画像)」は、本件発明1の「同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像」に相当し、甲2発明の「被検査物Pを透過したX線」のうち「X線センサ14bで受けるX線」に基づく「エネルギー帯」の「透過X線データから得られる」「グレースケールにデジタル化された透過画像(X線透過画像)」は、本件発明1の「前記被検査物を透過した前記第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像」に相当する。 (c)上記(a)及び(b)より、甲2発明の「X線検出部14から出力される検出信号から、二つの異なるエネルギー帯毎の透過X線データを取得し、各透過X線データから得られる透過画像が重なるように各透過X線データをスケーリングし、グレースケールにデジタル化された透過画像(X線透過画像)を記憶」する「透過画像記憶手段21」は、本件発明1の「同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像と、前記被検査物を透過した前記第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像と、のセットを取得する画像取得部」に相当する。 b(a)甲2発明の「画像処理手段23」を構成する「独立成分分析手段24」は、「透過画像記憶手段21に記憶された二つのX線透過画像を異物画像と異物を含まない被検査物の画像をそれぞれ重み付けして合成された観測画像とみなして独立成分分析を行い、特定の異物を含まない被検査物の画像と特定の異物のみからなる画像の異物画像(分離異物画像)に分離抽出する」ものであるから、「二つのX線透過画像」を入力とし、「特定の異物を含まない被検査物の画像と特定の異物のみからなる画像の異物画像(分離異物画像)」を出力とするモデルであるといえる。 さらに、「独立成分分析では、分離行列Wを更新して分離画像Yを独立にしていく学習を、分離画像Yの各画像が互いに独立になるまでの収束が速いFastICA処理で行」うことから、甲2発明の「独立成分分析手段24」は、「分離行列Wを更新して分離画像Yを独立にしていく」との機械的な学習を行うものであるといえ、よって、甲2発明の「独立成分分析手段24」は、本件発明1の「機械学習モデル」に相当する。 (b)甲2発明の「判定手段22は、画像処理手段23によって得られるグレースケールの分離抽出された異物画像を基に、その異物画像の濃度の最大値が予め設定された閾値を超える場合に異物が有ると判定する」ものであるところ、「グレースケールの分離抽出された異物画像」の「濃度」は、「異物画像」の各画素の画素値であるといえ、当該画素値の「最大値が予め設定された閾値を超える場合に異物が有ると判定する」ことから、当該画素値は、異物らしさを表している、すなわち、異物尤度であるといえる。 そして、「グレースケールの分離抽出された異物画像」が当該異物画像を構成する各画素値の情報を保持していることは明らかであるから、甲2発明において、「グレースケールの分離抽出された異物画像」は、本件発明1の「画素毎の異物である確からしさを示す異物尤度」に相当する。 また、甲2発明において、「グレースケールの分離抽出された異物画像」から「その異物画像の濃度の最大値」を求め、「その異物画像の濃度の最大値が予め設定された閾値を超える場合に異物が有ると判定する」ことは、「グレースケールの分離抽出された異物画像」に基づいて異物を検出することといえる。 よって、甲2発明において、「判定手段22は、画像処理手段23によって得られるグレースケールの分離抽出された異物画像を基に、その異物画像の濃度の最大値が予め設定された閾値を超える場合に異物が有ると判定する」ことは、本件発明1において「前記画素毎の前記異物尤度に基づいて前記異物を検出する」ことに相当する。 (c)甲2発明の「透過画像記憶手段21に記憶された二つのX線透過画像」は、「透過画像記憶手段21」が「記憶し」た「X線検出部14から出力される検出信号から、二つの異なるエネルギー帯毎の透過X線データを取得し、各透過X線データから得られる透過画像が重なるように各透過X線データをスケーリングし、グレースケールにデジタル化された透過画像(X線透過画像)」であることは明らかであるから、本件発明1の「前記第1画像及び前記第2画像」に相当する。 そして、甲2発明の「グレースケールの分離抽出された異物画像」は、「画像処理手段23」において、「二つのX線透過画像」が入力された「独立成分分析手段24」が「特定の異物を含まない被検査物の画像と特定の異物のみからなる画像の異物画像(分離異物画像)」を出力し、「異物画像識別手段26」が「分離抽出された二つの分離画像の中から異物画像を識別」し、「フィルタ処理手段25」が「分離抽出された異物画像に対しさらに異物を強調」し、「生成」された「異物のみの画像」であるから、「グレースケールの分離抽出された異物画像」は、「独立成分分析手段24」に「二つのX線透過画像」を入力することにより取得したものであるといえる。 よって、甲2発明において、「画像処理手段23」が「生成する」「グレースケールの分離抽出された異物画像」は、本件発明1における「機械学習モデルに前記第1画像及び前記第2画像を入力することにより」「取得」された「画素毎の異物である確からしさを示す異物尤度」に相当する。 (d)上記(a)~(c)より、甲2発明の「独立成分分析手段24」を含む「撮画像処理手段23」及び「判定手段22」は、本件発明1の「機械学習モデルに前記第1画像及び前記第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得し、前記画素毎の前記異物尤度に基づいて前記異物を検出する検出部」に相当する。 c 甲2発明の「X線異物検出装置」は、本件発明1の「検査装置」に相当する。 (イ)一致点、相違点 上記(ア)の通りであるから、本件発明1と甲2発明とは、下記aの点で一致し、下記bの点で相違する。 a 一致点 「同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像と、前記被検査物を透過した前記第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像と、のセットを取得する画像取得部と、 機械学習モデルに前記第1画像及び前記第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得し、前記画素毎の前記異物尤度に基づいて前記異物を検出する検出部と、を備える検査装置。」 b 相違点1 本件発明1は、「機械学習モデル」について、「異物の位置に対応する画素を示す正解データを含む教師データを用いて学習された機械学習モデルであって、前記第1画像及び前記第2画像を入力することにより画素毎の異物である確からしさを示す異物尤度が出力されるように調整されたパラメータを含むように予め構成された」と特定されているのに対し、引用発明1の「独立成分分析手段24」は、そのように特定されていない点。 イ 相違点1に対する判断 (ア)甲1発明について a 甲1発明において、「商品G」、「商品GのX線画像である透過画像」及び「透過画像生成部52a」は、それぞれ、本件発明1の「被検査物」、「被検査物を透過した」「電磁波に基づく」「画像」及び「画像取得部」に相当する。 よって、甲1発明の「商品GのX線画像である透過画像を生成する透過画像生成部52a」は、本件発明1の「同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像と、前記被検査物を透過した前記第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像と、のセットを取得する画像取得部」と、「被検査物を透過した」「電磁波に基づく」「画像」「を取得する画像取得部」である点で共通する。 b(a)甲1発明において、「異物領域データ」は、「商品Gの透過画像のデータ」と「関連付けられた」ものであって、「商品Gの透過画像のデータ」における「異物領域」を示すものであるから、「商品Gの透過画像」における「異物」の「領域」、すなわち、「異物」の位置に対応する画素を示すデータであるといえる。また、「異物領域データ」が「教師データ」における正解データであることは、当業者にとって自明である。 よって、甲1発明の「商品Gの透過画像のデータと、当該透過画像の重なり領域データ及び異物領域データとが関連付けられた多数の教師データ」は、本件発明1の「異物の位置に対応する画素を示す正解データを含む教師データ」に相当する。 (b)甲1発明において、「ニューラルネットワーク」を「利用」し、「商品Gの透過画像のデータと、当該透過画像の重なり領域データ及び異物領域データとが関連付けられた多数の教師データを解析し、教師データに含まれる異物有り画像データ及び異物無し画像データの特徴量を取得し、特徴量記憶部51cに記憶させる」ことは、「商品Gの透過画像のデータと、当該透過画像の重なり領域データ及び異物領域データとが関連付けられた多数の教師データ」を用い、「ニューラルネットワーク」を「利用」して「特徴量」を学習することといえる。 そして、甲1発明において、「検査部52d」における、「特徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類」する機能は、学習された「特徴量を用いて」、「異物混入検査の対象となる未検査の商品Gの透過画像のデータ」を入力することにより、「異物有り画像データと異物無し画像データとに分類」するとの結果を出力するものであるといえるから、本件発明1の「異物の位置に対応する画素を示す正解データを含む教師データを用いて学習された機械学習モデル」に相当する。 また、上記の対比を踏まえると、甲1発明の「特徴量」は本件発明1の「パラメータ」に相当し、甲1発明において、「ニューラルネットワーク」を「利用」し、「商品Gの透過画像のデータと、当該透過画像の重なり領域データ及び異物領域データとが関連付けられた多数の教師データを解析し、教師データに含まれる異物有り画像データ及び異物無し画像データの特徴量を取得」することは、本件発明1において、「異物の位置に対応する画素を示す正解データを含む教師データを用いて学習」することに相当し、また、「パラメータ」を「調整」することにも相当する。 (c)甲1発明において、「商品Gに異物Cが含まれていると判断」することは、本件発明1において「前記異物を検出する」ことに相当する。よって、甲1発明の「未検査の商品Gの透過画像のデータが異物有り画像データであり、商品Gに異物Cが含まれていると判断した場合に、商品Gを不良品と判定する検査部52d」は、本件発明1の「前記異物を検出する検出部」に相当する。 また、甲1発明において、「未検査の商品Gの透過画像のデータが異物有り画像データであり、商品Gに異物Cが含まれていると判断した場合に、商品Gを不良品と判定する」ことは、「特徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類」した出力である「異物有り画像データ」に基づいて行われるものであるから、本件発明1における「前記機械学習モデルに前記第1画像及び前記第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得し、前記画素毎の前記異物尤度に基づいて前記異物を検出する」ことと、「前記機械学習モデルに前記」「画像」「を入力することにより、」その出力を「取得し、」当該出力「に基づいて前記異物を検出する」ことである点で共通する。 (d)上記(a)~(c)より、甲1発明において、 「商品Gの透過画像のデータと、当該透過画像の重なり領域データ及び異物領域データとが関連付けられた多数の教師データを解析し、教師データに含まれる異物有り画像データ及び異物無し画像データの特徴量を取得し、特徴量記憶部51cに記憶させる、ニューラルネットワークが利用できる学習部52cと」、「特徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類し、未検査の商品Gの透過画像のデータが異物有り画像データであり、商品Gに異物Cが含まれていると判断した場合に、商品Gを不良品と判定する検査部52dと」は、本件発明1の「異物の位置に対応する画素を示す正解データを含む教師データを用いて学習された機械学習モデルであって、前記第1画像及び前記第2画像を入力することにより画素毎の異物である確からしさを示す異物尤度が出力されるように調整されたパラメータを含むように予め構成された前記機械学習モデルに前記第1画像及び前記第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得し、前記画素毎の前記異物尤度に基づいて前記異物を検出する検出部」と、「異物の位置に対応する画素を示す正解データを含む教師データを用いて学習された機械学習モデルであって、前記」「画像」「を入力することにより」「出力されるように調整されたパラメータを含むように予め構成された前記機械学習モデルに前記」「画像」「を入力することにより」、その出力を「取得し、」当該出力「に基づいて前記異物を検出する検出部」である点で共通する。 c 甲1発明の「X線検査装置10」は、本件発明1の「検査装置」に相当する。 d 上記a~cより、甲1発明は、本件発明1と、 「被検査物を透過した」「電磁波に基づく」「画像」「を取得する画像取得部」と、 「異物の位置に対応する画素を示す正解データを含む教師データを用いて学習された機械学習モデルであって、前記」「画像」「を入力することにより」「出力されるように調整されたパラメータを含むように予め構成された前記機械学習モデルに前記」「画像」「を入力することにより」、その出力を「取得し、」当該出力「に基づいて前記異物を検出する検出部と、を備える検査装置」 である点で共通する。 e 甲2発明と甲1発明とは、被検査物を透過したX線に基づく画像を用いて被検査物内の異物を検出する検出装置であり、また、機械学習モデルを用いるものである点で、共通する技術分野に属するものである。 しかしながら、甲2発明の「独立成分分析手段24」は、「透過画像記憶手段21に記憶された二つのX線透過画像を異物画像と異物を含まない被検査物の画像をそれぞれ重み付けして合成された観測画像とみなして独立成分分析を行い、特定の異物を含まない被検査物の画像と特定の異物のみからなる画像の異物画像(分離異物画像)に分離抽出する」ものであって、「二つの異なるエネルギー帯毎の透過X線データ」用いることを前提とするものである。それに対し、甲1発明の「検査部52d」は、「異物混入検査の対象となる未検査の商品Gの透過画像のデータ」を入力し、「異物有り画像データと異物無し画像データとに分類」するものであって、2つの異なるエネルギー帯の「透過画像のデータ」を用いるものではないから、甲1発明と甲2発明とは、異物の検出の原理が異なるといえる。 そうすると、甲2発明の「独立成分分析手段24」において、異物検出の原理が異なる甲1発明の「検査部52d」の構成を適用する動機付けがあるとはいえない。 f 仮に甲2発明において、甲1発明の構成を適用する動機付けがあると解した場合について検討する。 甲2発明における「独立成分分析手段24」は、「二つの異なるエネルギー帯毎の透過X線データ」を入力とし、「特定の異物を含まない被検査物の画像と特定の異物のみからなる画像の異物画像(分離異物画像)」を出力とするものであって、二つの画像を入力し、異物画像を出力するものであり、他方で、甲1発明の「検査部52d」における「特徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類」する機能(機械学習モデル)は、一つの「透過画像のデータ」を入力し、「異物有り画像データと異物無し画像データとに分類」した結果、すなわち、画像ではなく「異物有り」あるいは「異物無し」の情報を出力するものである。そうすると、甲2発明の「独立成分分析手段24」と甲1発明の「検査部52d」において「特徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類」する機能とは、その入力情報、出力情報の態様が異なるものであるといえる。 そして、機械学習モデルは、その入力情報、出力情報の態様に応じて設計されることは技術常識であり、機械学習モデルとその入力情報、出力情報は、一体として設計すべきものであることは明らかであるから、甲2発明の「独立成分分析手段24」を甲1発明の「検査部52d」における「特徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類」する機能に置き換えた際には、その入力情報、出力情報も甲1発明の態様とすることとなり、上記相違点1に係る本件発明1における、「機械学習モデル」が「前記第1画像及び前記第2画像を入力することにより画素毎の異物である確からしさを示す異物尤度が出力されるように調整されたパラメータを含むように予め構成された」構成とはならない。 g よって、甲2発明において、相違点1に係る本件発明1の構成とすることは、甲1発明を参酌しても、当業者が容易になし得たことではない。 (イ)甲3に記載された事項について a 甲3には、「本論文では,クラスタリングによる分割ではなく,学習用データのクラス情報を利用する方法を提案する。・・・多数決ルールを適用したクラス判定方法を導入する。」(上記第5 3(1)イ)、「部分空間法とはクラス毎にそのクラスを適切に表現する部分空間を用意して,その部分空間内で未知パターンを認識する方法(23)である。・・・このような部分空間法と独立成分分析を組み合わせることは,クラスmの入力信号(混合信号)ベクトルxmから独立成分ベクトルsmを求める際の分離行列Wmが,各クラスで異なる場合に特に有効であろうと考えられる。すなわち,各クラスで異なる独立な要因によって入力信号が得られている場合である。」(上記第5 3(1)ウ)と記載されているから、甲3には、「クラス毎にそのクラスを適切に表現する部分空間」が存在し、「分離行列Wmが,各クラスで異なる場合」に、「多数決ルールを適用」して「クラス」を「判定」する「方法」が記載されているといえる。 また、甲3には「そこで本論文では,統計的に独立なだけでなく,認識に有効な特徴量を抽出する方法を検討する。つまり,教師なし学習である独立成分分析を教師付き学習に拡張することを考える。」(上記第5 3(1)ア)、と記載されているが、当該記載における「独立成分分析を教師付き学習に拡張すること」は、上記の記載を参酌すると、クラス毎にそのクラスを適切に表現する部分空間が存在する、すなわち、クラス毎に独立成分分析における分離行列Wmが異なる際に、教師付き学習を用いて、入力信号が所属するクラスを判定することを意味すると解される。 b そして、甲2には、「独立成分分析」において、クラス毎にそのクラスを適切に表現する部分空間が異なる旨の記載はないから、甲2発明の「独立成分分析手段24」において、甲3に記載された事項を適用する動機付けがあるとはいえない。 また、仮に、甲2発明において、甲3発明の構成を適用する動機付けがあるとしても、甲2発明において、甲3発明を適用した際に、クラスを何に基づきどのように設定するのか、また、甲2発明の「独立成分分析手段24」は教師データを用いていないところ、学習に用いる教師データとして何を用いるのか等、その実現に際して格別の努力を要するものであるから、甲2発明において甲3に記載の事項を適用し、相違点1に係る本件発明1における、「機械学習モデル」が「異物の位置に対応する画素を示す正解データを含む教師データを用いて学習された」ものである構成とすることが、当業者にとって容易であったということはできない。 d よって、甲2発明において、相違点1に係る本件発明1の構成とすることは、甲3に記載の事項を参酌しても、当業者が容易になし得たことではない。 (ウ)甲4~7に記載された事項について 甲4~7のいずれにも、「異物の位置に対応する画素を示す正解データを含む教師データを用いて学習された機械学習モデルであって、前記第1画像及び前記第2画像を入力することにより画素毎の異物である確からしさを示す異物尤度が出力されるように調整されたパラメータを含むように予め構成された機械学習モデル」について記載されていない。 (エ)申立人の主張について 申立人は意見書において、「「独立成分分析」は教師なし学習の一つであり、教師あり学習に拡張できるものですから、当業者が容易になし得たことであり、当該構成に進歩性はありません。」との主張をしているが、上記(イ)の通り、甲2発明において、相違点1に係る本件発明1の構成とすることは、独立成分分析を教師あり学習に拡張する旨の記載がある甲3に記載の事項を参酌しても、当業者が容易になし得たことではないから、申立人の当該主張は採用できない。 また、申立人は意見書において、「また、「異物の位置に対応する画素を示す正解データを含む教師データを用いて」に関しては、・・・甲第1号証に記載されていると思料します。」、「前記第1画像及び前記第2画像を入力することにより画素毎の異物である確からしさを示す異物尤度が出力されるように調整されたパラメータを含むように予め構成された前記機械学習モデル」に関しては、・・・甲第1号証に記載されていると思料します。」等の主張をしているが、上記(ア)の通り、甲2発明に甲1発明の構成を適用しても、上記相違点1に係る発明の構成とすることが容易であるとはいえないから、申立人の上記主張は採用できない。 ウ 小括 以上より、本件発明1は、甲2発明ではないし、甲2発明、甲1発明、甲3~7に記載された事項から、当業者が容易に想到し得たものであるとはいえない。 (2)本件発明2 ア 対比 (ア)上記(1)アの対比を踏まえ、本件発明2と甲2発明とを対比する。 本願の明細書の段落【0058】には、「なお、検出部104が用いる「予め構成された機械学習モデル103」は、少なくとも内部のアルゴリズムの構造(例えば、ニューラルネットワーク、遺伝的アルゴリズム等)が決定されているものであればよく、パラメータが確定していないもの(例えば、学習途上であるもの)であってもよい。」と記載されているから、本件発明2の「予め構成された機械学習モデル」における「予め構成された」とは、「機械学習モデル」の内部のアルゴリズムの構造が決定されていることを意味すると認められる。そして、甲2発明の「独立成分分析手段24」は、「独立成分分析では、分離行列Wを更新して分離画像Yを独立にしていく学習を、分離画像Yの各画像が互いに独立になるまでの収束が速いFastICA処理で行」うものであって、「FastICA処理で行」うとの「独立成分分析」におけるアルゴリズムの構造が決定されているものであるから、甲2発明の「独立成分分析手段24」は、本件発明1の「予め構成された機械学習モデル」に相当する。 そうすると、本件発明2と甲2発明とは、下記(イ)の点で一致し、下記(ウ)の点で相違する。 (イ)一致点 「同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像と、前記被検査物を透過した前記第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像と、のセットを取得する画像取得部と、 予め構成された機械学習モデルに前記第1画像及び前記第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得し、前記画素毎の前記異物尤度に基づいて前記異物を検出する検出部と、を備える検査装置。」 (ウ)相違点2 本件発明2は、「前記機械学習モデルは、前記第1画像及び前記第2画像を入力して1つの検査用画像を出力するように構成された第1機械学習モデルと、前記第1機械学習モデルにより出力された前記検査用画像を入力して前記画素毎の前記異物尤度を出力するように構成された第2機械学習モデルと、を含む、」と特定されているのに対し、引用発明1の「独立成分分析手段24」は、そのように特定されていない点。 イ 相違点に対する判断 (ア)甲4には、「ネットワークの構成が図2に示されている。構成は、UEnc (左側)と対応するUDec (右側)に分かれる;特に、[27]で述べられているU-Netネットワークの典型的なU字型構成をW字型構成に修正し拡張することで、元の入力画像を再構成するだけでなく、ラベリング情報なしでセグメンテーションマップを予測する。」(上記第5 4(1)イ)との事項が記載されており、甲4には、元の入力画像をセグメンテーションするためのネットワークを、UEnc(左側)とUDec(右側)に分ける、すなわち、第1機械学習モデルと、第2機械学習モデルとを用いることに相当する構成が記載されているといえる。 (イ)甲5には、「UR-Net X 2は,UR-Netを2段積み重ねた30層のCNNである.」(上記第5 5(1)イ )と記載されており、UR-Netを2段、すなわち、第1機械学習モデルと第2機械学習モデルとを用いることに相当する構成が記載されているといえる。 (ウ)しかしながら、甲4、甲5に記載の事項は、独立成分分析に関するものではないし、2つの画像から画素毎の異物である確からしさを示す異物尤度を出力するものでもないから、甲2発明に甲4あるいは甲5に記載の事項を適用する動機付けがあるとはいえない。 また、仮に動機付けがあるといえるとしても、甲2発明に甲4あるいは甲5に記載の事項を適用しようとした際に、独立成分分析をどのようにして、2つの機械学習モデルに分割できるのか、当業者が容易に想到し得るとはいえない。 (エ)また、甲1、甲3、甲6及び甲7にも、「前記第1画像及び前記第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得」する「機械学習モデル」を、「前記第1画像及び前記第2画像を入力して1つの検査用画像を出力するように構成された第1機械学習モデルと」、「前記第1機械学習モデルにより出力された前記検査用画像を入力して前記画素毎の前記異物尤度を出力するように構成された第2機械学習モデルと、を含む」ものとする点は記載も示唆もされていない。 (オ)よって、相違点2に係る本件発明2の構成は、甲2発明において、甲1発明、甲3~7に記載の事項を参酌しても、当業者が容易になし得たことではない。 ウ 小括 以上より、本件発明2は、甲2発明ではないし、甲2発明、甲1発明、甲3~7に記載された事項から、当業者が容易に想到し得たものであるとはいえない。 (3)本件発明3 本件発明3は、請求項2を引用する形式で記載された請求項3に係る発明であって、本件発明2の構成を全て含み、それをさらに減縮した発明であるから、甲2発明とは、上記相違点2で少なくとも相違する。 そして、相違点2については、上記(2)イで検討したとおりであるから、本件発明3についても、本件発明2と同じ理由により、甲2発明ではないし、甲2発明、甲1発明、甲3~7に記載された事項から、当業者が容易に想到し得たものであるとはいえない。 (4)本件発明4 ア 対比 (ア)上記(1)ア及び(2)アの対比を踏まえ、本件発明4と甲2発明とを対比すると、本件発明4と甲2発明とは、下記(イ)の点で一致し、下記(ウ)の点で相違する。 (イ)一致点 「同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像と、前記被検査物を透過した前記第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像と、のセットを取得する画像取得部と、 予め構成された機械学習モデルに前記第1画像及び前記第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得し、前記画素毎の前記異物尤度に基づいて前記異物を検出する検出部と、を備える検査装置。」 (ウ)相違点3 本件発明4は、「それぞれ互いに関連する所定位置に異物が配置された前記第1画像及び前記第2画像と前記所定位置に対応する画素を示す正解データとを含む教師データを前記機械学習モデルに入力することにより、前記機械学習モデルを学習させる学習部を更に備え、前記学習部は、前記機械学習モデルに前記教師データにおける前記第1画像及び前記第2画像を入力し、前記機械学習モデルにより出力された前記画素毎の前記異物尤度から決定される異物に対応する画素と前記教師データにおける前記正解データとの一致度が大きくなるように前記機械学習モデルのパラメータを調整する」と特定されているのに対し、引用発明1の「独立成分分析手段24」は、そのような学習部を有していない点。 イ 相違点に対する判断 上記(1)イ(ア)で示した通り、甲2発明において、異物検出の原理が異なる甲1発明の構成を適用する動機付けがあるとはいえないし、仮に甲2発明において、甲1発明の構成を適用する動機付けがあると解したとしても、甲2発明の「独立成分分析手段24」を甲1発明の「検査部52d」における「特徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類」する機能(機械学習モデル)に置き換えた際には、その入力情報、出力情報も甲1発明の態様とすることとなり、上記相違点3に係る発明の構成とはならない。 また、甲2発明において、甲3に記載された事項を適用する動機付けがあるとはいえないし、仮に、甲2発明において、甲3発明を適用する動機付けがあるとしても、甲2発明において、甲3発明を適用し、相違点3に係る本件発明4の構成とすることが、当業者にとって容易であったということはできない。 また、甲4~7のいずれにも、上記相違点3に係る事項は記載されていない。 ウ 小括 以上より、本件発明4は、甲2発明ではないし、甲2発明、甲1発明、甲3~7に記載された事項から、当業者が容易に想到し得たものであるとはいえない。 (5)本件発明5~7 本件発明5~7は、いずれも、請求項1、2または4のいずれかを直接的または間接的に引用する形式で記載された発明であって、本件発明1、2または4のいずれかの構成を全て含み、それをさらに減縮した発明であるから、甲2発明とは、上記相違点1、2または3で少なくとも相違する。 そして、相違点1、2または3については、上記(1)イ、(2)イ、または(4)イで検討したとおりであるから、本件発明5~7についても、本件発明1、2または4と同じ理由により、甲2発明ではないし、甲2発明、甲1発明、甲3~7に記載された事項から、当業者が容易に想到し得たものであるとはいえない。 (6)本件発明8 本件発明8は「機械学習を実行することにより、前記第1画像及び前記第2画像を入力して画素毎の異物である確からしさを示す異物尤度を出力するように構成された学習済みモデルを構築する学習部」を備える「学習装置」であるところ、甲2発明の「独立成分分析手段24」は、学習を行うものではないから、甲2発明において、学習部を設けることの動機付けはない。よって、甲2発明において、甲1発明、甲3~7に記載された事項を参酌しても、本件発明8の構成とすることが、当業者が容易に想到し得たものであるとはいえない。 (7)まとめ 以上より、本件発明1は、甲2発明ではないし、甲2発明、甲1発明及び甲3~7に記載された事項に基いて、当業者が容易に発明をすることができたものではないことから、本件発明1~8に係る特許は、特許法第29条第1項第3号及び特許法第29条第2項の規定に違反してされたものではなく、取消理由及び申立理由2によって、本件発明1~8に係る特許を取り消すことはできない。 また、本件発明2~7についても、甲2発明ではないし、甲2発明、甲1発明及び甲3~7に記載された事項に基いて、当業者が容易に発明をすることができたものではないことから、本件発明1~8に係る特許は、特許法第29条第1項第3号及び特許法第29条第2項の規定に違反してされたとの理由により、本件発明2~8に係る特許を取り消すことはできない。 1-2 甲1発明を主引用発明とした場合について(申立理由1について) (1)本件発明1 ア 対比 (ア)上記1-1(1)イ(ア)a~dにおける説示を踏まえ、本件発明1と甲1発明とを対比すると、本件発明1と甲1発明とは、下記(イ)の点で一致し、下記(ウ)及び(エ)の点で相違する。 (イ)一致点 「被検査物を透過した電磁波に基づく画像を取得する画像取得部と、 異物の位置に対応する画素を示す正解データを含む教師データを用いて学習された機械学習モデルであって、前記画像を入力することにより出力されるように調整されたパラメータを含むように予め構成された前記機械学習モデルに前記画像を入力することにより、その出力を取得し、当該出力に基づいて前記異物を検出する検出部と、を備える検査装置。」 (ウ)相違点4 本件発明1は、「同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像と、前記被検査物を透過した前記第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像と、のセットを取得する画像取得部」を備えると特定されているのに対し、甲1発明の「透過画像生成部52a」は、「商品GのX線画像である透過画像を生成する」ものであって、同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像と、前記被検査物を透過した前記第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像と、のセットを取得するものとは特定されていない点。 (エ)相違点5 本件発明1は、「前記第1画像及び前記第2画像を入力することにより画素毎の異物である確からしさを示す異物尤度が出力されるように調整されたパラメータを含むように予め構成された前記機械学習モデルに前記第1画像及び前記第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得し、前記画素毎の前記異物尤度に基づいて前記異物を検出する検出部」を備えると特定されているのに対し、甲1発明の「検査部52d」は、第1画像及び第2画像を入力することにより画素毎の異物である確からしさを示す異物尤度が出力されるように調整されたパラメータを含むように予め構成されたものではなく、また、第1画像及び第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得し、画素毎の前記異物尤度に基づいて前記異物を検出するものでもない点。 イ 相違点に対する判断 事案に鑑み、相違点5について検討する。 (ア)甲1発明と甲2発明とは、被検査物を透過したX線に基づく画像を用いて被検査物内の異物を検出する検出装置であり、また、機械学習モデルを用いるものである点で、共通する技術分野に属するものである。 (イ)甲2発明の「独立成分分析手段24」は、「X線のX線エネルギー(線質)は異な」る「二つのX線透過画像を異物画像と異物を含まない被検査物の画像をそれぞれ重み付けして合成された観測画像とみなして独立成分分析を行い、特定の異物を含まない被検査物の画像と特定の異物のみからなる画像の異物画像(分離異物画像)に分離抽出する」ものであり、物質により所定のX線エネルギーにおけるX線透過率が異なるとの技術常識に基づき、「X線のX線エネルギー(線質)は異な」る「二つのX線透過画像」を「独立成分分析」により「特定の異物を含まない被検査物の画像と特定の異物のみからなる画像の異物画像(分離異物画像)に分離抽出」できるとの原理により設けられたものといえるから、甲2発明は、独立成分分析を行うことを前提として、「X線のX線エネルギー(線質)は異な」る「二つのX線透過画像」を入力として採用したものであるといえる。 そうすると、甲1発明において、甲2発明の構成を適用することが容易に想到し得るとしても、その際に、「検査部52d」が「特徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類」する機能(機械学習モデル)において、「多数の教師データを解析し」て得た「教師データに含まれる異物有り画像データ及び異物無し画像データの特徴量」を用いるとの事項を変更せず、単にその入力情報及び出力情報のみを、甲2発明の「X線のX線エネルギー(線質)は異な」る「二つのX線透過画像」(前記第1画像及び前記第2画像)及び「特定の異物のみからなる画像の異物画像」(画素毎の異物である確からしさを示す異物尤度)に変更することが、当業者にとって容易であるとはいえない。 (ウ)また、仮に、甲1発明において、甲2発明における「X線のX線エネルギー(線質)は異な」る「二つのX線透過画像」(前記第1画像及び前記第2画像)を入力し、「特定の異物のみからなる画像の異物画像」(画素毎の異物である確からしさを示す異物尤度)を出力させる構成のみを採用しようと当業者が試みることの動機付けがあるとしても、その際には、甲1発明における「徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類」する機能(機械学習モデル)において、特にその出力に関して、「異物有り画像データ」であるか「異物無し画像データ」であるか「分類」した結果から、「特定の異物のみからなる画像の異物画像」に変更することになり、そのアルゴリズムを大きく変更する必要が生じ、その実現に際して格別の努力を要するものとなる。 よって、甲1発明において、甲2発明における「X線のX線エネルギー(線質)は異な」る「二つのX線透過画像」(前記第1画像及び前記第2画像)を入力し、「特定の異物のみからなる画像の異物画像」(画素毎の異物である確からしさを示す異物尤度)を出力させる構成のみを採用することが、当業者にとって容易であるとはいえない。 (エ)以上より、相違点5に係る本件発明1の構成は、甲1発明において、甲2発明の構成を参酌しても、当業者が容易に想到し得たものではない。 (オ)甲3~甲7のいずれにも、「前記第1画像及び前記第2画像を入力することにより画素毎の異物である確からしさを示す異物尤度が出力されるように調整されたパラメータを含むように予め構成された前記機械学習モデルに前記第1画像及び前記第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得し、前記画素毎の前記異物尤度に基づいて前記異物を検出する検出部」について記載されていない。 (カ)申立人の主張について 申立人は意見書において、「前記第1画像及び前記第2画像を入力することにより画素毎の異物である確からしさを示す異物尤度が出力されるように調整されたパラメータを含むように予め構成された前記機械学習モデル」に関しては、・・・甲第1号証に記載されていると思料します。」等の主張をしているが、甲1には、複数のエネルギー帯における複数の画像を用いる旨の記載はなく、甲1には、学習の際に、「同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像と、前記被検査物を透過した前記第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像」である「前記第1画像及び前記第2画像を入力する」ことに相当する事項が記載されているとはいえないから、申立人の上記主張は採用できない。 また、申立人は、特許異議申立書において、「本件特許発明1は、判断基準が「機械学習モデル」であり、検出部が「機械学習モデルに前記第1画像及び前記第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得し、前記画素毎の前記異物尤度に基づいて前記異物を検出する」点を「相違点2」として挙げると共に、当該「相違点2」について、「甲1発明に甲2発明を適用することは当業者が容易になし得たものである。」との主張をしているが、上記(イ)、(ウ)の通りであるから、申立人の上記主張は採用できない。 ウ 小括 以上より、本件発明1は、相違点4について論ずるまでもなく、甲1発明、甲2発明、甲3~7に記載された事項から、当業者が容易に想到し得たものであるとはいえない。 (2)本件発明2 ア 対比 (ア)上記1-1(1)イ(ア)a~dにおける説示を踏まえ、本件発明2と甲1発明とを対比すると、本件発明2と甲1発明とは、下記(イ)の点で一致し、下記(ウ)~(オ)の点で相違する。 (イ)一致点 「被検査物を透過した電磁波に基づく画像を取得する画像取得部と、 予め構成された前記機械学習モデルに前記画像を入力することにより、その出力を取得し、当該出力に基づいて前記異物を検出する検出部と、を備える検査装置。」 (ウ)相違点6 本件発明2は、「同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像と、前記被検査物を透過した前記第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像と、のセットを取得する画像取得部」を備えると特定されているのに対し、甲1発明の「透過画像生成部52a」は、「商品GのX線画像である透過画像を生成する」ものであって、同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像と、被検査物を透過した第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像と、のセットを取得するとは特定されていない点。 (エ)相違点7 本件発明2は、「予め構成された機械学習モデルに前記第1画像及び前記第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得し、前記画素毎の前記異物尤度に基づいて前記異物を検出する検出部」を備えると特定されているのに対し、甲1発明の「検査部52d」における「特徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類」する機能(機械学習モデル)は、第1画像及び第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得するものではなく、また、「検査部52d」は、画素毎の前記異物尤度に基づいて異物を検出するものではない点。 (オ)相違点8 本件発明2は、「前記機械学習モデルは、前記第1画像及び前記第2画像を入力して1つの検査用画像を出力するように構成された第1機械学習モデルと、前記第1機械学習モデルにより出力された前記検査用画像を入力して前記画素毎の前記異物尤度を出力するように構成された第2機械学習モデルと、を含む」と特定されているのに対し、甲1発明の「検査部52d」において「特徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類」する機能(機械学習モデル)は、そのように特定されていない点。 イ 相違点に対する判断 相違点7と相違点8は、機械学習モデルに関する事項である点で関連するものであるから、併せて検討する。 (ア)上記1-1(2)イ(ア)及び(イ)に示した通り、甲4及び甲5には、第1機械学習モデルと第2機械学習モデルとを用いることに相当する構成が記載されているといえる。 (イ)甲1発明と甲2発明とは、被検査物を透過したX線に基づく画像を用いて被検査物内の異物を検出する検出装置であり、また、機械学習モデルを用いるものである点で、共通する技術分野に属するものである。 そして、甲1発明において、「検査部52d」における「特徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類」する機能(機械学習モデル)に代えて、甲2発明における「透過画像記憶手段21に記憶された二つのX線透過画像を異物画像と異物を含まない被検査物の画像をそれぞれ重み付けして合成された観測画像とみなして独立成分分析を行い、特定の異物を含まない被検査物の画像と特定の異物のみからなる画像の異物画像(分離異物画像)に分離抽出する独立成分分析手段24」を用い、上記相違点7に係る発明の構成とすることは、当業者が容易に想到し得ることといえる。 (ウ)しかしながら、上記1-1(2)イ(ウ)に示した通り、甲4、甲5に記載の事項は、独立成分分析に関するものではないし、2つの画像から画素毎の異物である確からしさを示す異物尤度を出力するものでもないから、甲1発明に甲2発明を適用し、「検査部52d」が独立成分分析を行うものとした際に、甲4あるいは甲5に記載の事項を適用する動機付けがあるとはいえない。 また、仮に動機付けがあるといえるとしても、甲1発明に甲2発明を適用し、「検査部52d」が独立成分分析を行うものとし、さらに、甲4あるいは甲5に記載の事項を適用しようとした際に、独立成分分析をどのようにして、2つの機械学習モデルに分割できるのか、当業者が容易に想到し得るとはいえない。 さらに、甲4、甲5には、第1機械学習モデルが検査用画像を出力し、第2機械学習モデルは、検査用画像が入力され、異物尤度を出力することについての記載はないことを考慮すれば、甲1発明に甲2発明を適用し、さらに甲4、5に記載の事項を適用するとの2つの段階を経た後、さらに、第1学習モデルは検査用画像を出力し、第2学習モデルは検査用画像が入力されるようにし、相違点7、8に係る本件発明2の構成に至ることは、格別な努力を要するものといえ、当業者にとって容易であったということはできない。 (エ)よって、相違点7、8に係る本件発明2の構成は、甲1発明において、甲2発明、甲4、5に記載の事項を参酌しても、当業者が容易に想到し得たものではない。 (オ)また、甲3、甲6及び甲7にも、上記相違点7、8に係る事項は記載も示唆もされていない。 (カ)申立人の主張について 申立人は意見書において、「機械学習において、複数の機械学習モデルを直列的に用いることは、甲4記載事項、甲5記載事項1に示すように、当業者に周知な技術事項にすぎず、甲1発明3に甲2発明を適用する際に甲4記載事項、甲5記載事項1の構成とすることに進歩性はありません。」との主張をしており、また、特許異議申立書においては、「機械学習において、複数の機械学習モデルを直列的に用いることは、甲4記載事項、甲5記載事項1に示すように、当業者に周知な技術事項にすぎず、甲1発明に甲2発明を適用する際に甲4記載事項、甲5記載事項1の構成とすることに進歩性はない。」との主張をしているが、上記(ウ)の通りであるから、上記主張は採用できない。 ウ 小括 以上より、本件発明2は、相違点6について論ずるまでもなく、甲1発明、甲2発明、甲3~7に記載された事項から、当業者が容易に想到し得たものであるとはいえない。 (3)本件発明3 本件発明3は、請求項2を引用する形式で記載された請求項3に係る発明であって、本件発明2の構成を全て含み、それをさらに減縮した発明であるから、甲1発明とは、上記相違点6~8で少なくとも相違する。 そして、相違点7、8については、上記(2)イで検討したとおりであるから、本件発明3についても、本件発明2と同じ理由により、甲1発明、甲2発明、甲3~7に記載された事項から、当業者が容易に想到し得たものであるとはいえない。 (4)本件発明4 ア 対比 (ア)上記1-1(1)イ(ア)a~dにおける説示を踏まえ、本件発明4と甲1発明とを対比する。 甲1発明の「商品Gの透過画像のデータと、当該透過画像の重なり領域データ及び異物領域データとが関連付けられた多数の教師データ」は、本件発明4の「所定位置に異物が配置された前記」「画像」「と前記所定位置に対応する画素を示す正解データとを含む教師データ」に相当する。 甲1発明において、「検査部52d」が「異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類」する機能は、本件発明4の「機械学習モデル」に相当する。そして、甲1発明において、「特徴量」は、「検査部52d」が「異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類」する際に用いられるものであるから、「教師データに含まれる異物有り画像データ及び異物無し画像データの特徴量を取得」するものである「学習部52c」は、本件発明4の「前記機械学習モデルを学習させる学習部」に相当する。 甲1発明の「特徴量」は本件発明4の「パラメータ」に相当するから、甲1発明において、「学習部52c」が「教師データに含まれる異物有り画像データ及び異物無し画像データの特徴量を取得」することは、本件発明4において、「前記学習部は」「前記機械学習モデルのパラメータを調整する」ことに相当する。 以上より、甲1発明において、「商品Gの透過画像のデータと、当該透過画像の重なり領域データ及び異物領域データとが関連付けられた多数の教師データを解析し、教師データに含まれる異物有り画像データ及び異物無し画像データの特徴量を取得し、特徴量記憶部51cに記憶させる、ニューラルネットワークが利用できる学習部52c」を備えることは、本件発明4において、「それぞれ互いに関連する所定位置に異物が配置された前記第1画像及び前記第2画像と前記所定位置に対応する画素を示す正解データとを含む教師データを前記機械学習モデルに入力することにより、前記機械学習モデルを学習させる学習部を更に備え、前記学習部は、前記機械学習モデルに前記教師データにおける前記第1画像及び前記第2画像を入力し、前記機械学習モデルにより出力された前記画素毎の前記異物尤度から決定される異物に対応する画素と前記教師データにおける前記正解データとの一致度が大きくなるように前記機械学習モデルのパラメータを調整する」こととは、「所定位置に異物が配置された前記」「画像」「と前記所定位置に対応する画素を示す正解データとを含む教師データを」用いて「前記機械学習モデルを学習させる学習部を更に備え、前記学習部は、」「前記機械学習モデルのパラメータを調整する」点で共通する。 そうすると、本件発明4と甲1発明とは、下記(イ)の点で一致し、下記(ウ)~(オ)の点で相違する。 (イ)一致点 「被検査物を透過した電磁波に基づく画像を取得する画像取得部と、 予め構成された機械学習モデルに前記画像を入力することにより、その出力を取得し、当該出力に基づいて前記異物を検出する検出部と、を備え、 所定位置に異物が配置された前記画像と前記所定位置に対応する画素を示す正解データとを含む教師データを用いて前記機械学習モデルを学習させる学習部を更に備え、前記学習部は、前記機械学習モデルのパラメータを調整する、検査装置。」 (ウ)相違点9 本件発明4は、「同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像と、前記被検査物を透過した前記第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像と、のセットを取得する画像取得部」と特定されているのに対し、甲1発明の「透過画像生成部52a」は、「商品GのX線画像である透過画像を生成する」ものであって、同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像と、被検査物を透過した第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像と、のセットを取得するとは特定されていない点。 (エ)相違点10 本件発明4は、「予め構成された機械学習モデルに前記第1画像及び前記第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得し、前記画素毎の前記異物尤度に基づいて前記異物を検出する検出部」と特定されているのに対し、甲1発明の「検査部52d」において「特徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類」する機能(機械学習モデル)は、第1画像及び第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得するものではなく、また、「検査部52d」は、画素毎の前記異物尤度に基づいて異物を検出するものではない点。 (オ)相違点11 本件発明4は、「それぞれ互いに関連する所定位置に異物が配置された前記第1画像及び前記第2画像と前記所定位置に対応する画素を示す正解データとを含む教師データを前記機械学習モデルに入力することにより、前記機械学習モデルを学習させる学習部を更に備え、前記学習部は、前記機械学習モデルに前記教師データにおける前記第1画像及び前記第2画像を入力し、前記機械学習モデルにより出力された前記画素毎の前記異物尤度から決定される異物に対応する画素と前記教師データにおける前記正解データとの一致度が大きくなるように前記機械学習モデルのパラメータを調整する」と特定されているのに対し、甲1発明の「学習部52c」は、第1画像及び第2画像を含む教師データを機械学習モデルに入力するものではなく、また、機械学習モデルにより出力された画素毎の異物尤度から決定される異物に対応する画素と教師データにおける正解データとの一致度が大きくなるように「特徴量」を調整するとも特定されていない点。 イ 相違点に対する判断 相違点10と相違点11は、機械学習モデルに関する事項である点で関連するものであるから、併せて検討する。 (ア)甲1発明において、甲1発明と甲2発明とは、被検査物を透過したX線に基づく画像を用いて被検査物内の異物を検出する検出装置であり、また、機械学習モデルを用いるものである点で、共通する技術分野に属するものである。 (イ)そして、甲1発明において、「検査部52d」における「特徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類」する機能(機械学習モデル)に代えて、甲2発明における「透過画像記憶手段21に記憶された二つのX線透過画像を異物画像と異物を含まない被検査物の画像をそれぞれ重み付けして合成された観測画像とみなして独立成分分析を行い、特定の異物を含まない被検査物の画像と特定の異物のみからなる画像の異物画像(分離異物画像)に分離抽出する独立成分分析手段24」を用い、上記相違点10に係る発明の構成とすることは、当業者が容易に想到し得ることといえる。 しかしながら、その際には、学習を行わない独立成分分析を用いることとなるから、甲1発明において、「学習部52c」も備える必要がないものとなるから、相違点11に係る本件発明4の構成とすることが容易であるとはいえない。 (ウ)また、上記(1)イ(イ)で示したのと同様に、甲1発明において、「検査部52d」が「特徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類」する機能(機械学習モデル)に関して、「多数の教師データを解析し」て得た「教師データに含まれる異物有り画像データ及び異物無し画像データの特徴量」を用い、「特徴量 」は「学習部52c」が取得するとの事項を変更せず、単に機械学習モデルへの入力情報及び出力情報のみを、甲2発明の「X線のX線エネルギー(線質)は異な」る「二つのX線透過画像」(前記第1画像及び前記第2画像)及び「特定の異物のみからなる画像の異物画像」(画素毎の異物である確からしさを示す異物尤度)に変更することが、当業者にとって容易であるともいえない。 (エ)よって、相違点10、11に係る本件発明4の構成は、甲1発明において、甲2発明の事項を参酌しても、当業者が容易に想到し得たものではない。 (オ)また、甲3~7にも、上記相違点10、11に係る事項は記載も示唆もされていない。 ウ 小括 以上より、本件発明4は、相違点9について論ずるまでもなく、甲1発明、甲2発明、甲3~7に記載された事項から、当業者が容易に想到し得たものであるとはいえない。 (5)本件発明5~7 本件発明5~7は、いずれも、請求項1、2または4のいずれかを直接的または間接的に引用する形式で記載された発明であって、本件発明1、2または4のいずれか構成を全て含み、それをさらに減縮した発明であるから、甲2発明とは、上記相違点4及び5、6~8、あるいは、9~11で少なくとも相違する。 そして、相違点5、7及び8、または、10及び11については、上記(1)イ、(2)イ、または(4)イで検討したとおりであるから、本件発明5~7についても、本件発明1、2または4と同じ理由により、甲1発明、甲2発明、甲3~7に記載された事項から、当業者が容易に想到し得たものであるとはいえない。 (6)本件発明8 ア 対比 (ア)上記(4)アの対比を踏まえ、本件発明8と甲1発明とを対比する。 甲1発明において、「透過画像生成部52aと、」「学習部52cと、」「を備えるX線検査装置10」は、本件発明8において、「画像取得部と、」「学習済みモデルを構築する学習部と、を備える学習装置」に相当する。 そうすると、本件発明8と甲1発明とは、下記(イ)の点で一致し、下記(ウ)、(エ)の点で相違する。 (イ)一致点 「被検査物を透過した電磁波に基づく画像を取得する画像取得部と、 画像、及び異物の位置に対応する画素を示す正解データを含む教師データを用いて機械学習を実行することにより、出力するように構成された学習済みモデルを構築する学習部と、を備える学習装置。」 (ウ)相違点12 本件発明8は、「同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像と、前記被検査物を透過した前記第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像と、のセットを取得する画像取得部」を備えると特定されているのに対し、甲1発明の「透過画像生成部52a」は、「商品GのX線画像である透過画像を生成する」ものであって、同一の被検査物を透過した第1エネルギー帯の電磁波に基づく第1画像と、前記被検査物を透過した前記第1エネルギー帯とは異なる第2エネルギー帯の電磁波に基づく第2画像と、のセットを取得するとは特定されていない点。 (エ)相違点13 本件発明8は「前記第1画像、前記第2画像、及び前記所定位置に対応する画素を示す正解データを含む教師データを用いて機械学習を実行することにより、前記第1画像及び前記第2画像を入力して画素毎の異物である確からしさを示す異物尤度を出力するように構成された学習済みモデルを構築する学習部」を備えると特定されているのに対し、甲1発明の「学習部52c」は、第1画像、第2画像を含む教師データを用いて機械学習を実行するものではなく、また、甲1発明の「検査部52d」が「特徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類」する機能(機械学習モデル)は、第1画像及び第2画像を入力することにより、画素毎の異物である確からしさを示す異物尤度を取得するものではない点。 イ 相違点に対する判断 事案に鑑み、相違点13について検討する。 (ア)上記(4)イ(イ)で示したのと同様に、甲1発明において、「検査部52d」における「特徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類」する機能(機械学習モデル)に代えて、甲2発明における「透過画像記憶手段21に記憶された二つのX線透過画像を異物画像と異物を含まない被検査物の画像をそれぞれ重み付けして合成された観測画像とみなして独立成分分析を行い、特定の異物を含まない被検査物の画像と特定の異物のみからなる画像の異物画像(分離異物画像)に分離抽出する独立成分分析手段24」を用いた際には、学習を行わない独立成分分析を用いることとなるから、甲1発明において、「学習部52c」も備える必要がないものとなり、そのため、相違点13に係る本件発明8の構成とすることが容易であるとはいえない。 (イ)また、上記(4)イ(ウ)で示したのと同様に、甲1発明において、「検査部52d」が「特徴量記憶部51cに記憶されている特徴量を用いて、異物混入検査の対象となる未検査の商品Gの透過画像のデータを、異物有り画像データと異物無し画像データとに分類」する機能(機械学習モデル)に関して、「多数の教師データを解析し」て得た「教師データに含まれる異物有り画像データ及び異物無し画像データの特徴量」を用い、「特徴量 」は「学習部52c」が取得するとの事項を変更せず、単に機械学習モデルへの入力情報及び出力情報のみを、甲2発明の「X線のX線エネルギー(線質)は異な」る「二つのX線透過画像」(前記第1画像及び前記第2画像)及び「特定の異物のみからなる画像の異物画像」(画素毎の異物である確からしさを示す異物尤度)に変更することが、当業者にとって容易であるともいえない。 (ウ)よって、相違点13に係る本件発明8の構成は、甲1発明において、甲2発明の事項を参酌しても、当業者が容易に想到し得たものではない。 (オ)また、甲3~7にも、上記相違点13に係る事項は記載も示唆もされていない。 ウ 小括 以上より、本件発明8は、相違点12について論ずるまでもなく、甲1発明、甲2発明、甲3~7に記載された事項から、当業者が容易に想到し得たものであるとはいえない。 (7)まとめ 以上より、本件発明1~8は、甲1発明、甲2発明及び甲3~7に記載された事項に基いて、当業者が容易に発明をすることができたものではないことから、本件発明1~8に係る特許は、特許法第29条第2項の規定に違反してされたものではなく、申立理由1によって、本件発明1~8に係る特許を取り消すことはできない。 2 明確性要件について (1) 申立人は、意見書において、 「(3)訂正後の請求項記載の不明確性について ・・・今般の訂正では、「検査装置」の発明である請求項1乃至7について、「異物の位置に対応する画素を示す正解データを含む教師データを用いて学習された機械学習モデルであって、前記第1画像及び前記第2画像を入力することにより画素毎の異物である確からしさを示す異物尤度が出力されるように調整されたパラメータを含むように予め構成された前記機械学習モデル」との記載を導入することによって、検査装置で用いる機械学習モデルを特定したものと思料致します。 この機械学習モデルは、その製造方法によって特定されていますが、製造された結果の機械学習モデルをその製造方法によって製造された物と、その製造方法以外の製造方法によって製造された物とを区別することはできません。 そうすると、検査装置における機械学習モデルがどのような学習や調整によりもたらされたものかは不明であり、訂正後の請求項1乃至7は、「ある具体的な物」である検査装置が「請求項に係る発明の範囲に入るか否かを当業者が理解できるように記載されている」とは言えないから(参照:審査基準第II 部第2章第3節2.明確性要件についての判断2.1 明確性要件の判断に係る基本的な考え方(1))、訂正後の請求項1乃至7に係る特許は、特許法第36条第6項第2号の規定に違反していると思料致します。」 と主張しているので、検討する。 (2)機械学習の技術分野において、教師あり学習により学習された機械学習モデルと、教師無し学習を行う機械学習モデルが、異なるアルゴリズムを有していることは、技術常識である。 さらに、教師あり学習により学習された機械学習モデルにおいて、所定の入力データと正解データを備える教師データを学習に用いることにより、当該機械学習モデルは、所定の入力に対して、正解データを出力するものとなるように内部のパラメータが調整されたものとなることも技術常識である。 そうすると、本件発明1における「機械学習モデル」は、「異物の位置に対応する画素を示す正解データを含む教師データを用いて学習された機械学習モデルであって、前記第1画像及び前記第2画像を入力することにより画素毎の異物である確からしさを示す異物尤度が出力されるように調整されたパラメータを含むように予め構成された」と特定されたことで、教師なし学習を行う機械学習モデルや、異なるタイプの入力情報及び異なるタイプの正解データを使用して学習され、当該異なるタイプの入力情報に対して異なるタイプの正解データを出力するように調整された機械学習モデルに対して、「機械学習モデル」自体のものとして区別できることは、明らかである。 (3)また、機械学習モデルは、所定の入力データと正解データとを学習に用いることにより、当該機械学習モデルは、当該所定の入力に対して、正解データを出力するものとなるように内部のパラメータが調整されたものとなるが、学習後の機械学習モデルにおいて、正解データを導き出す具体的な内部構造は明らかではないことが技術常識であるから、そのような学習後の機械学習モデルをその構造や特性により直接特定することは不可能である。また、仮に不可能とまではいえないとしても、機械学習モデルにおける正解データを導き出す具体的な内部構造を特定することは、著しい努力を要するものであって、実際的ではない。よって、本件発明1における「機械学習モデル」を、その具体的な構造あるいは特性により特定することは不可能であるか、非実際的であるといえる。 (4)以上より、本件発明1における「異物の位置に対応する画素を示す正解データを含む教師データを用いて学習された機械学習モデルであって、前記第1画像及び前記第2画像を入力することにより画素毎の異物である確からしさを示す異物尤度が出力されるように調整されたパラメータを含むように予め構成された前記機械学習モデル」との事項が明確でないとはいえない。 また、本件発明2~7についても、同様の理由により、明確でないとはいえない。 第7 むすび 以上のとおり、本件発明1~8に係る特許は、取消理由通知書に記載した取消理由及び特許異議申立書に記載された申立理由によって、取り消すことができない。 さらに、他に本件発明1~8に係る特許を取り消すべき理由を発見しない。 よって、結論のとおり決定する。

審決本文(J-PlatPat)

J-PlatPatの審決検索トップを開きます。番号入力で「審判番号」を選び、下の番号を貼り付けて検索してください。

J-PlatPat 審決検索を開く
2023-701034

番号・当事者・条文・審決分類・商標の称呼が一致(または近い)審決を機械的に集めた候補です。判断内容は各審決の本文でご確認ください。

同じ当事者の審決36件(株式会社イシダ、鈴野 幹夫)
  • 2022-701149異議申立 / 2023-10-03 / 訂正認容X線検出装置
    同じ当事者: 株式会社イシダ、鈴野 幹夫
  • 2026-700070異議申立 / 2026-04-24 / 維持製袋包装装置
    同じ当事者: 株式会社イシダ
  • 2021-700774異議申立 / 2021-11-10 / 維持箱詰装置
    同じ当事者: 株式会社イシダ
  • 2020-700416異議申立 / 2021-10-19 / 訂正認容面ファスナー雌部材
    同じ当事者: 鈴野 幹夫
  • 2021-700469異議申立 / 2021-09-16 / 維持装置管理システム
    同じ当事者: 株式会社イシダ
同じ論点・分野の審決(審決分類)1,057件(113・G01N、121・G01N、537・G01N)
  • 2025-701038異議申立 / 2026-03-25 / 維持分析装置
    共通の審決分類: 113・G01N、121・G01N、537・G01N
  • 2023-701378異議申立 / 2025-10-15 / 訂正認容測定誤差の低減方法
    共通の審決分類: 113・G01N、121・G01N、537・G01N
  • 2024-700644異議申立 / 2025-07-08 / 訂正認容アレルギーの抗原およびそのエピトープ
    共通の審決分類: 113・G01N、121・G01N、537・G01N
  • 2024-700019異議申立 / 2025-03-18 / 訂正認容検体分析システムの制御方法および検体分析システム
    共通の審決分類: 113・G01N、121・G01N、537・G01N
  • 2023-701195異議申立 / 2024-11-20 / 訂正認容アドレノメデュリン濃度変動による予後予測の情報提供方法及びその試薬
    共通の審決分類: 113・G01N、121・G01N、537・G01N

メモ・タグ(非公開)

あなただけに表示されます。審決本文の公開範囲は変わりません。

メモとタグは Pro の機能です。ログイン/Proでメモを保存