特許異議申立
2022-700915
コロニー検出装置、コロニー検出方法、及びコロニー検出プログラム
- 審判番号
- 2022-700915
- 法域
- 特許
- 審判種別
- 異議申立(異議の決定)
- 出願番号
- 特願2018-104759
- 登録番号
- 7037438
- 請求日
- 2022年09月16日
- 審決日
- 2023年08月22日
- 公報発行日
- 2023年11月24日
- 結論
- 訂正認容
- 当事者
- 【権利者】株式会社日立ソリューションズ
- 【権利者代理人】弁理士法人ウィルフォート国際特許事務所
- 【権利者】島津ダイアグノスティクス株式会社
- 【権利者代理人】弁理士法人ウィルフォート国際特許事務所
- 【異議申立人】御代川 友美
- 審判長/審判官
- 審判長 福井 悟
- 審判官 上條 肇
- 審判官 飯室 里美
- 分類
- P1651.121-YAA(C12M) / P1651.851-YAA(C12M) / P1651.852-YAA(C12M)
- 根拠条文(結論部分から自動抽出・参考)
- 特許法120条の8第1項特許法135条
- 条文(本文から自動抽出・参考)
- 特許法第29条第2項、特許法第120条の5第2項、特許法第120条の8第1項
- データ出所
- 審決公報(XML)
事件の表示
特許第7037438号発明「コロニー検出装置、コロニー検出方法、及びコロニー検出プログラム」の特許異議申立事件について、次のとおり決定する。
結論
結 論
特許第7037438号の特許請求の範囲を訂正請求書に添付された訂正特許請求の範囲のとおり、訂正後の請求項〔1~8〕、9、10、11、12、13について訂正することを認める。
特許第7037438号の請求項1ないし4、6ないし13に係る特許を維持する。
特許第7037438号の請求項5に係る特許についての特許異議の申立てを却下する。
理由
理 由
第1 手続の経緯及び証拠方法
1 手続の経緯
特許第7037438号(請求項の数13。以下、「本件特許」という。)は、平成30年 5月31日に出願(特願2018-104759号)され、令和 4年 3月 8日に特許権の設定登録がされ、令和 4年 3月16日に特許掲載公報が発行された。
その後、令和 4年 9月16日に、本件特許の請求項1~13に係る特許に対して、特許異議申立人である御代川 友美(以下、「申立人」という。)から特許異議の申立てがなされた。
手続の経緯は以下のとおりである。
令和4年 9月16日 特許異議申立書の提出
令和5年 1月10日付け 取消理由通知書
令和5年 3月 3日 訂正請求書、意見書の提出(特許権者)
令和5年 4月11日付け 通知書(申立人宛)
令和5年 5月12日 意見書の提出(申立人)
なお、本件申立てに係る審理は、請求項1~13、すなわち、全請求項を審理対象とし、審理対象でない請求項は存しない。
2 証拠方法
申立人が特許異議申立書(以下、「申立書」という。)に添付した証拠方法は、以下のとおりである。
甲第1号証:特表2006-507837号公報
甲第2号証:Bacterial Colony Counting by Convolutional Neural Networks, 2015 37th Annual International Conference of the IEEE Engineering in Medicine and Biology Society (EMBC), 2015, p.7458-7461
甲第3号証:特表2016-531709号公報
甲第4号証:2008 IEEE International Conference on Sensor Networks, Ubiquitous, and Trustworthy Computing(sutc 2008), 2008, p.233-240
甲第5号証:特開2016-26500号公報
甲第6号証:31st Fuzzy System Symposium, 2015, p.379-382
甲第7号証 arXiv e-prints, 2018 Feb, 1802.10548
甲第8号証:Computer Methods in Biomechanics and Biomedical Engineering: Imaging & Visualization, 2016, Vol.6, No.3, p.283-292
甲第9号証 国際公開第2015/080001号
第2 訂正の適否についての判断
1 訂正の内容
本件訂正請求による訂正の内容は、以下の(1)~(21)のとおりである。
(1)訂正事項1
特許請求の範囲の請求項1に「コロニー候補領域を抽出する領域抽出部」と記載されているのを、「コロニー候補領域を複数抽出する領域抽出部」に訂正する。
(2)訂正事項2
特許請求の範囲の請求項1に「前記コロニー候補領域にコロニーがあるか否かを判別するコロニー判別部」と記載されているのを、「前記コロニー候補領域のそれぞれにコロニーがあるか否かを判別するコロニー判別部」に訂正する。
(3)訂正事項3
特許請求の範囲の請求項1に「前記モデル記憶部から取得して、コロニーの有無を判別する」と記載されているのを、「前記モデル記憶部から取得して、コロニーの有無を判別し、前記領域抽出部は、取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域とする」に訂正する。
(4)訂正事項4
特許請求の範囲の請求項5を削除する。
(5)訂正事項5
特許請求の範囲の請求項6に「請求項1から請求項5のいずれか一項に記載のコロニー検出装置」と記載されているのを、「請求項1から請求項4のいずれか一項に記載のコロニー検出装置」に訂正する。
(6)訂正事項6
特許請求の範囲の請求項7に「請求項1から請求項6のいずれか一項に記載のコロニー検出装置」と記載されているのを、「請求項1から請求項4、6のいずれか一項に記載のコロニー検出装置」に訂正する。
(7)訂正事項7
特許請求の範囲の請求項9に「コロニー候補領域を抽出する領域抽出部」と記載されているのを、「コロニー候補領域を複数抽出する領域抽出部」に訂正する。
(8)訂正事項8
特許請求の範囲の請求項9に「前記コロニー候補領域にコロニーがあるか否かを判別するコロニー判別部」と記載されているのを、「前記コロニー候補領域のそれぞれにコロニーがあるか否かを判別するコロニー判別部」に訂正する。
(9)訂正事項9
特許請求の範囲の請求項9に「分割して得られた領域をコロニー候補領域とする」と記載されているのを、「分割して得られた複数の領域のそれぞれをコロニー候補領域とする」に訂正する。
(10)訂正事項10
特許請求の範囲の請求項10に「培地画像を取得しと、取得された前記培地画像から前記コロニーの有無を検出対象とする領域であるコロニー候補領域を抽出し」と記載されているのを、「培地画像を取得し、取得された前記培地画像から前記コロニーの有無を検出対象とする領域であるコロニー候補領域を複数抽出し」に訂正する。
(11)訂正事項11
特許請求の範囲の請求項10に「前記コロニー候補領域にコロニーがあるか否かを判別し」と記載されているのを、「前記コロニー候補領域のそれぞれにコロニーがあるか否かを判別し」に訂正する。
(12)訂正事項12
特許請求の範囲の請求項10に「モデル記憶部から取得して、コロニーの有無を判別する」と記載されているのを、「モデル記憶部から取得して、コロニーの有無を判別し、取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域とする」に訂正する。
(13)訂正事項13
特許請求の範囲の請求項11に「コロニー候補領域を抽出する領域抽出部」と記載されているのを、「コロニー候補領域を複数抽出する領域抽出部」に訂正する。
(14)訂正事項14
特許請求の範囲の請求項11に「前記コロニー候補領域にコロニーがあるか否かを判別するコロニー判別部」と記載されているのを、「前記コロニー候補領域のそれぞれにコロニーがあるか否かを判別するコロニー判別部」に訂正する。
(15)訂正事項15
特許請求の範囲の請求項11に「前記モデル記憶部から取得して、コロニーの有無を判別する」と記載されているのを、「前記モデル記憶部から取得して、コロニーの有無を判別し、前記領域抽出部は、取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域とする」に訂正する。
(16)訂正事項16
特許請求の範囲の請求項12に「コロニー候補領域を抽出し」と記載されているのを、「コロニー候補領域を複数抽出し」に訂正する。
(17)訂正事項17
特許請求の範囲の請求項12に「前記コロニー候補領域にコロニーがあるか否かを判別し」と記載されているのを、「前記コロニー候補領域のそれぞれにコロニーがあるか否かを判別し」に訂正する。
(18)訂正事項18
特許請求の範囲の請求項12に「取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた領域をコロニー候補領域とする」と記載されているのを、「取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域とする」に訂正する。
(19)訂正事項19
特許請求の範囲の請求項13に「コロニー候補領域を抽出する領域抽出部」と記載されているのを、「コロニー候補領域を複数抽出する領域抽出部」に訂正する。
(20)訂正事項20
特許請求の範囲の請求項13に「前記コロニー候補領域にコロニーがあるか否かを判別するコロニー判別部」と記載されているのを、「前記コロニー候補領域のそれぞれにコロニーがあるか否かを判別するコロニー判別部」に訂正する。
(21)訂正事項21
特許請求の範囲の請求項13に「取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた領域をコロニー候補領域とする」と記載されているのを、「取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域とする」に訂正する。
訂正前の請求項2~8は、訂正前の請求項1を直接又は間接的に引用する関係にあり、訂正事項1~3によって、訂正される訂正前の請求項1に連動して、訂正前の請求項2~8も訂正されるから、訂正前の請求項1~8は一群の請求項に該当するものである。
2 訂正の目的の適否、新規事項の有無、及び特許請求の範囲の拡張・変更の存否
(1)訂正事項1、7、13、16、19について
請求項1、9、11、13に係る「コロニー候補領域を抽出する領域抽出部」は、「コロニー候補領域を複数抽出する領域抽出部」の上位概念であるから、「コロニー候補領域を抽出する領域抽出部」を、「コロニー候補領域を複数抽出する領域抽出部」とする訂正事項1、7、13、19は、特許請求の範囲の減縮を目的とするものである。
設定登録時の願書に添付した明細書(以下、「明細書」という。)の発明の詳細な説明【0053】には、
「次に、画像データ解析部42は、前景画像に対して、Watershed法を適用して、隣接しているコロニーのエリアを分離する(S305)。ここで、Watershed法とは、画像の輝度を用いて、オブジェクトの輪郭を判定するためのアルゴリズムである。なお、後工程(S206)において、コロニー識別用学習済みモデル48を用いて、コロニーを判別する処理において、1つのコロニー候補領域において、複数個のコロニーが含まれることを想定したクラス分類を行うため、ステップS305においては、全ての隣接したコロニーの領域を詳細に分離する必要性はない。なお、コロニーのエリアを分割する方法として、Watershed法を挙げたが、複数のコロニーのエリアを分離することのできる処理方法であれば、他の方法であってもよい。このステップによると、図7(d)に示す前景画像が、図7(e)に示すような画像に変換される。」
【0054】には、
「次に、画像データ解析部42は、相対的にその面積が非常に小さい領域はコロニーではないという経験値に基づいて、所定の閾値以上の面積の領域のみをコロニー候補領域とする(S306)。ここで、使用する閾値は、閾値対応テーブル47の製品種別に対応する閾値Y47cの閾値としてもよい。このように、製品種別に対応する閾値を使用することにより、その培地の画像に適した処理を行うことができ、より適切なコロニー候補領域を抽出することができる。」
図7には、
「
[図:0001403649000001.jpg]
」
と記載されている。
このように、明細書には、画像データ解析部42は、培地画像図7(a)から図7(e)のとおり複数の領域をコロニー候補領域として抽出することが記載されている。
したがって、訂正事項1、7、13、19は、明細書に記載されており、実質上特許請求の範囲を拡張し、又は変更するものではないと認められる。
特許請求の範囲の請求項12に「コロニー候補領域を抽出し」と記載されているのを、「コロニー候補領域を複数抽出し」に訂正する訂正事項16についても、訂正事項1、7、13、19と同様に、特許請求の範囲の減縮を目的とするものであり、訂正事項16は、明細書に記載されており、実質上特許請求の範囲を拡張し、又は変更するものではないと認められる。
(2)訂正事項2、8、11、14、17、20について
請求項1、9、11、13に係る「前記コロニー候補領域にコロニーがあるか否かを判別するコロニー判別部」は、「前記コロニー候補領域のそれぞれにコロニーがあるか否かを判別するコロニー判別部」の上位概念であるから、「前記コロニー候補領域にコロニーがあるか否かを判別するコロニー判別部」を、「前記コロニー候補領域のそれぞれにコロニーがあるか否かを判別するコロニー判別部」に変更する訂正事項2、8、14、20は、特許請求の範囲の減縮を目的とするものである。
次に、明細書の発明の詳細な説明には、
「【0040】
次に、画像データ解析部42は、ステップS201で取得した培地画像を対象として、候補領域抽出処理(図6参照)を実行することにより、コロニー候補領域を抽出する(S205)。
【0041】
次に、画像データ解析部42は、ステップS205において抽出したコロニー候補領域のそれぞれを処理対象として、ループAの処理(S206,S207)を実行する。ここで、図5の説明において、処理対象とするコロニー候補領域を対象コロニー候補領域ということとする。
【0042】
ループAにおいては、画像データ解析部42は、コロニー判別用学習モデル48を用いて、対象コロニー候補領域に対して付与する識別クラスのラベルを判別する(S206)。ここで、識別クラスとは、対象コロニー候補領域にコロニーがあるか、ないか(例えば背景など)、また、対象コロニー候補領域にコロニーがある場合、対象コロニー候補領域に含まれるコロニーの数はいくつであるかを識別するためのクラスである。」と記載されている。
このように、明細書には、コロニー判別用学習モデル48を用いて、抽出したコロニー候補領域のそれぞれを処理対象として、対象コロニー候補領域に対してコロニーがあるか、ないかを判別することが記載されている。
したがって、訂正事項2、8、14、20は、明細書に記載されており、実質上特許請求の範囲を拡張し、又は変更するものではないと認められる。
特許請求の範囲の請求項10、12に「前記コロニー候補領域にコロニーがあるか否かを判別し」と記載されているのを、「前記コロニー候補領域のそれぞれにコロニーがあるか否かを判別し」に訂正する訂正事項11、17についても、訂正事項2、8、14、20と同様に、特許請求の範囲の減縮を目的とするものであり、訂正事項11、17は、明細書に記載されており、実質上特許請求の範囲を拡張し、又は変更するものではないと認められる。
(3)訂正事項3、12、15について
訂正事項3、12、15の「(前記領域抽出部は、)取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域とする」は、請求項1、11の「領域抽出部」及び請求項10の「コロニー検出方法」を限定するものであるから、「前記モデル記憶部から取得して、コロニーの有無を判別する」を、「前記モデル記憶部から取得して、コロニーの有無を判別し、(前記領域抽出部は、)取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域とする」とする訂正は、特許請求の範囲の減縮を目的とするものである。
次に、明細書の発明の詳細な説明には、
「【0049】
まず、画像データ解析部42は、乾式簡易培地801の培地画像(培地画像データ)に対して、グレースケール変換を行う(S301)。このステップによると、例えば、図7(a)に示すオリジナルの培地画像(オリジナル画像:図示制限により白黒画像となっているが、実際にはカラー画像)が、図7(b)に示すようなグレースケール画像に変換される。
【0050】
次に、画像データ解析部42は、グレースケール画像に対して2値化処理(例えば、適応的閾値処理)を行う(S302)。ここで、適応的閾値処理とは、撮像条件により画像領域で異なる光源環境となるような画像に対して有効な2値化処理であり、様々な光源環境で撮像される可能性がある培地画像に対して、有効な手段となる。この処理によると、据置型の装置のような均一な条件で撮像可能な撮像装置によって撮像された培地画像でなくても、精度よくコロニーの判別を行うことができる。なお、2値化処理として、適応的閾値処理を用いた例を示したが、本発明はこれに限られず、画像データに含まれる光源によるムラを緩和できる2値化処理であれば、他の処理であってもよい。ここで、このステップによると、例えば、図7(b)に示すグレースケール画像が、図7(c)に示すような2値化処理が行われた画像(2値化画像という)に変換される。
【0051】
次に、画像データ解析部42は、2値化画像に対し、ガウシアンフィルタを一例とする平滑化フィルタを用いて、ノイズ除去処理を適用する(S303)。
【0052】
次に、画像データ解析部42は、2値化画像に対して、膨張処理を施すことにより、2値化画像に現れている線分をなめらかにし、さらに、前景・背景分離処理により、膨張させた線分によって形成される領域の中から、特定の領域を抽出する(S304)。この処理は、例えば、膨張させた線分により囲まれる領域について、領域中の重心からの距離が、閾値対応テーブル47の製品種別に対応する閾値(閾値X47bの閾値)より小さい領域を削除し、重心からの距離が閾値以上の領域を抽出するものである。この処理により、2値化画像に現れた培地の模様などといった、後景、すなわちコロニーではない可能性の高い領域を効率的に取り除くことができる。このステップによると、図7(c)に示す2値化画像が、図7(d)に示すような画像(前景画像という)となる。前景画像を2値化画像と比較すると、背景(培地の模様や培地の基材)となる構成が画像から取り除かれていることがわかる。
【0053】
次に、画像データ解析部42は、前景画像に対して、Watershed法を適用して、隣接しているコロニーのエリアを分離する(S305)。ここで、Watershed法とは、画像の輝度を用いて、オブジェクトの輪郭を判定するためのアルゴリズムである。なお、後工程(S206)において、コロニー識別用学習済みモデル48を用いて、コロニーを判別する処理において、1つのコロニー候補領域において、複数個のコロニーが含まれることを想定したクラス分類を行うため、ステップS305においては、全ての隣接したコロニーの領域を詳細に分離する必要性はない。なお、コロニーのエリアを分割する方法として、Watershed法を挙げたが、複数のコロニーのエリアを分離することのできる処理方法であれば、他の方法であってもよい。このステップによると、図7(d)に示す前景画像が、図7(e)に示すような画像に変換される。
【0054】
次に、画像データ解析部42は、相対的にその面積が非常に小さい領域はコロニーではないという経験値に基づいて、所定の閾値以上の面積の領域のみをコロニー候補領域とする(S306)。ここで、使用する閾値は、閾値対応テーブル47の製品種別に対応する閾値Y47cの閾値としてもよい。このように、製品種別に対応する閾値を使用することにより、その培地の画像に適した処理を行うことができ、より適切なコロニー候補領域を抽出することができる。」と記載されている。
このように、明細書の発明の詳細な説明【0049】~【0054】には、取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた領域をコロニー候補領域とすることが記載されている。
したがって、訂正事項3は、明細書に記載されており、実質上特許請求の範囲を拡張し、又は変更するものではないと認められる。
特許請求の範囲の請求項10、11に「(前記)モデル記憶部から取得して、コロニーの有無を判別する」と記載されているのを、「(前記)モデル記憶部から取得して、コロニーの有無を判別し、(前記領域抽出部は、)取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域とする」に訂正する訂正事項12、15についても、訂正事項3と同様に、特許請求の範囲の減縮を目的とするものであり、訂正事項12、15は、明細書に記載されており、実質上特許請求の範囲を拡張し、又は変更するものではないと認められる。
(4)訂正事項4について
訂正事項4は、特許請求の範囲の請求項5を削除するものであるから、特許請求の範囲の減縮を目的とするものであり、新規事項の追加に該当せず、実質上特許請求の範囲を拡張し、又は変更するものでもない。
(5)訂正事項5、6について
訂正事項5、6は、多数項引用形式請求項の引用請求項を減少させるものであって、特許請求の範囲の減縮を目的とするものであるから、新規事項の追加に該当せず、実質上特許請求の範囲を拡張し、又は変更するものでもない。
(6)訂正事項9、18、21について
請求項9に係る「分割して得られた領域をコロニー候補領域とする」は、「分割して得られた複数の領域のそれぞれをコロニー候補領域とする」の上位概念であるから、「分割して得られた領域をコロニー候補領域とする」を、「分割して得られた複数の領域のそれぞれをコロニー候補領域とする」とする訂正事項9は、特許請求の範囲の減縮を目的とするものである。
また、「複数」の領域を「それぞれ」コロニー候補領域とすることは、いずれも(1)、(2)で述べたとおり、明細書に記載されているから、訂正事項9は、新規事項の追加に該当せず、実質上特許請求の範囲を拡張し、又は変更するものでもないと認められる。
特許請求の範囲の請求項12、13に「取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた領域をコロニー候補領域とする」と記載されているのを、「取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域とする」に訂正する訂正事項18、21についても、訂正事項9と同様に、特許請求の範囲の減縮を目的とするものであり、訂正事項18、21は、明細書に記載されており、実質上特許請求の範囲を拡張し、又は変更するものではないと認められる。
(7)訂正事項10について
請求項10に係る「培地画像を取得しと、」は、「培地画像を取得し、」の誤記であることが明らかであるから、「培地画像を取得しと、」を、「培地画像を取得し、」とする訂正は、誤記の訂正を目的とするものであって、新規事項の追加に該当せず、実質上特許請求の範囲を拡張し、又は変更するものでもない。
また、請求項10に「コロニー候補領域を抽出し」と記載されているのを、「コロニー候補領域を複数抽出し」に訂正することは、(1)で述べたとおり、訂正事項16と同様に、特許請求の範囲の減縮を目的とするものであり、訂正事項10は、明細書に記載されており、実質上特許請求の範囲を拡張し、又は変更するものではないと認められる。
3 小括
以上のとおりであるから、本件訂正請求による訂正は、特許法第120条の5第2項ただし書第1号(特許請求の範囲の減縮)及び第2号(誤訳及び誤記の訂正)に掲げる事項を目的とするものであり、同条第9項において準用する同法第126条第5項及び第6項の規定に適合している。
したがって、特許請求の範囲を、訂正請求書に添付された訂正特許請求の範囲のとおり、訂正後の請求項〔1~8〕、9、10、11、12、13について訂正することを認める。
第3 訂正後の本件発明
本件訂正請求により訂正された請求項1~13に係る発明(以下、訂正された請求項1に係る発明を「本件発明1」という。また、訂正前の請求項1に係る発明を「訂正前本件発明1」という。他の請求項についても同様である。)は、訂正特許請求の範囲の請求項1~13に記載された次の事項により特定されるとおりのものである。
【請求項1】
微生物の培養後の培地の画像である培地画像から微生物由来のコロニーを検出するコロニー検出装置であって、
コロニーを検出する対象となる培地画像を取得する培地画像取得部と、
取得された前記培地画像から、前記コロニーの有無を検出対象とする領域であるコロニー候補領域を複数抽出する領域抽出部と、
前記コロニー候補領域における前記コロニーの有無を判別するための学習モデルを用いて、前記コロニー候補領域のそれぞれにコロニーがあるか否かを判別するコロニー判別部と、
前記コロニー判別部による判別結果に基づいて、前記培地画像中のコロニーの総数を算出する算出部と、
を備え、
前記コロニーの有無を判別するための複数の学習モデルを記憶するモデル記憶部と、
前記培地画像に対応する培地の培地種別を判別する培地判別部をさらに備え、
前記コロニー判別部は、前記判別された培地種別に適した学習モデルを前記モデル記憶部から取得して、コロニーの有無を判別し、
前記領域抽出部は、取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域とする
コロニー検出装置。
【請求項2】
前記算出されたコロニーの総数に関する情報を出力する出力部をさらに備える
請求項1に記載のコロニー検出装置。
【請求項3】
前記学習モデルは、前記コロニー候補領域におけるコロニー数を判別可能なモデルであり、前記コロニー判別部は、前記コロニー候補領域におけるコロニーの有無及びコロニーがある場合のコロニー数を判別する
請求項1又は請求項2に記載のコロニー検出装置。
【請求項4】
前記培地画像には、前記培地種別を特定可能な情報を示すラベルの画像が含まれており、
前記培地判別部は、前記培地画像から前記ラベルの情報を識別し、前記培地種別を特定する
請求項1に記載のコロニー検出装置。
【請求項5】
(削除)
【請求項6】
前記培地画像取得部は、ネットワークを介して携帯端末から培地画像を取得する
請求項1から請求項4のいずれか一項に記載のコロニー検出装置。
【請求項7】
前記学習モデルとして、ニューラルネットワークモデルを用いる請求項1から請求項4、6のいずれか一項に記載のコロニー検出装置。
【請求項8】
前記ニューラルネットワークモデルは、畳み込みニューラルネットワークモデルである
請求項7に記載のコロニー検出装置。
【請求項9】
微生物の培養後の培地の画像である培地画像から微生物由来のコロニーを検出するコロニー検出装置であって、
コロニーを検出する対象となる培地画像を取得する培地画像取得部と、
取得された前記培地画像から、前記コロニーの有無を検出対象とする領域であるコロニー候補領域を複数抽出する領域抽出部と、
前記コロニー候補領域における前記コロニーの有無を判別するための学習モデルを用いて、前記コロニー候補領域のそれぞれにコロニーがあるか否かを判別するコロニー判別部と、
前記コロニー判別部による判別結果に基づいて、前記培地画像中のコロニーの総数を算出する算出部と、
を備え、
前記領域抽出部は、取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域とする
コロニー検出装置。
【請求項10】
微生物の培養後の培地の画像である培地画像から微生物由来のコロニーを検出するコロニー検出装置によるコロニー検出方法であって、
コロニーを検出する対象となる培地画像を取得し、
取得された前記培地画像から前記コロニーの有無を検出対象とする領域であるコロニー候補領域を複数抽出し、
前記コロニー候補領域における前記コロニーの有無を判別するための学習モデルを用いて、前記コロニー候補領域のそれぞれにコロニーがあるか否かを判別し、
前記判別の結果に基づいて、前記培地画像中のコロニーの総数を算出し、
前記コロニー候補領域にコロニーがあるか否かを判別する際において、前記培地画像に対応する培地の培地種別を判別し、前記判別された培地種別に適した学習モデルを、前記コロニーの有無を判別するための複数の学習モデルを記憶するモデル記憶部から取得して、コロニーの有無を判別し、
取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域とする
コロニー検出方法。
【請求項11】
微生物の培養後の培地の画像である培地画像から微生物由来のコロニーを検出するコロニー検出装置を構成するコンピュータに実行させるコロニー検出プログラムであって、
前記コロニー検出プログラムは、
前記コンピュータを
コロニーを検出する対象となる培地画像を取得する培地画像取得部と、
取得された前記培地画像から、前記コロニーの有無を検出対象とする領域であるコロニー候補領域を複数抽出する領域抽出部と、
前記コロニー候補領域における前記コロニーの有無を判別するための学習モデルを用いて、前記コロニー候補領域のそれぞれにコロニーがあるか否かを判別するコロニー判別部と、
前記コロニー判別部による判別結果に基づいて、前記培地画像中のコロニーの総数を算出する算出部と、して機能させ、
更に、
前記コロニーの有無を判別するための複数の学習モデルを記憶するモデル記憶部と、
前記培地画像に対応する培地の培地種別を判別する培地判別部として機能させ、
前記コロニー判別部は、前記判別された培地種別に適した学習モデルを前記モデル記憶部から取得して、コロニーの有無を判別し、
前記領域抽出部は、取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域とする
コロニー検出プログラム。
【請求項12】
微生物の培養後の培地の画像である培地画像から微生物由来のコロニーを検出するコロニー検出装置によるコロニー検出方法であって、
コロニーを検出する対象となる培地画像を取得しと、
取得された前記培地画像から前記コロニーの有無を検出対象とする領域であるコロニー候補領域を複数抽出し、
前記コロニー候補領域における前記コロニーの有無を判別するための学習モデルを用いて、前記コロニー候補領域のそれぞれにコロニーがあるか否かを判別し、
前記判別の結果に基づいて、前記培地画像中のコロニーの総数を算出し、
前記コロニー候補領域を抽出する際に、取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域とする
コロニー検出方法。
【請求項13】
微生物の培養後の培地の画像である培地画像から微生物由来のコロニーを検出するコロニー検出装置を構成するコンピュータに実行させるコロニー検出プログラムであって、
前記コロニー検出プログラムは、
前記コンピュータを
コロニーを検出する対象となる培地画像を取得する培地画像取得部と、
取得された前記培地画像から、前記コロニーの有無を検出対象とする領域であるコロニー候補領域を複数抽出する領域抽出部と、
前記コロニー候補領域における前記コロニーの有無を判別するための学習モデルを用いて、前記コロニー候補領域のそれぞれにコロニーがあるか否かを判別するコロニー判別部と、
前記コロニー判別部による判別結果に基づいて、前記培地画像中のコロニーの総数を算出する算出部と、して機能させ、
前記領域抽出部は、取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域とする
コロニー検出プログラム。
第4 取消理由通知に記載した取消理由について
1 取消理由の概要
訂正前の請求項1~13に係る特許に対して、当審が令和 5年 1月10日付けで特許権者に通知した取消理由の要旨は、次のとおりである。
請求項1~13に係る発明は、甲第1号証に記載された発明及び、甲第2号証、甲第4号証、甲第7号証、甲第9号証、当審で新たに引用した文献A、文献B、文献Cに基いて、当業者が容易に発明をすることができたものである。よって、請求項1~13に係る特許は、特許法第29条第2項の規定に違反してされたものであり、取り消されるべきものである。
2 文献
甲第1号証 特表2006-507837号公報(以下、甲1という。その他も同様。)
甲第2号証 2015 37th Annual International Conference of the IEEE Engineering in Medicine and Biology Society(EMBC), 2015, p.7458-7461(周知技術を示す文献)
甲第4号証 2008 IEEE International Conference on Sensor Networks, Ubiquitous, and Trustworthy Computing(sutc 2008), 2008, p.233-240(周知技術を示す文献)
甲第5号証 特開2016-26500号公報
甲第7号証 arXiv e-prints, 2018 Feb, 1802.10548(周知技術を示す文献)
甲第9号証 国際公開第2015/080001号(周知技術を示す文献)
文献A 特開2014-018184号公報(周知技術を示す文献;当審で新たに引用した文献)
文献B 国際公開第2006/080239号(周知技術を示す文献;当審で新たに引用した文献)
文献C 特開2016-067322号公報(周知技術を示す文献;当審で新たに引用した文献)
3 各文献の記載事項
(1)甲1の記載事項
甲1には以下のとおり記載されている。(下線は当審による。)
(甲1(ア))
「【0005】
生物スキャナとは生物成長培地上の細菌コロニーまたは特定の生物剤の量を読み取るまたは計数するために用いる装置を指す。例えば食品試料または実験用試料を生物成長培地上に置いて、その後その培地を培養室内に挿入することができる。培養後、生物成長培地を生物スキャナ内に配置して細菌成長を自動検出および測定することができる。換言すれば生物スキャナは生物成長培地上の細菌または他の生物剤の検出および測定を自動化することにより、人為ミスを低減することによって生物試験プロセスを改善する。」
(甲1(イ))
「【0018】
発明の詳細な説明
本発明は生物成長プレート用生物スキャナに関する。生物成長プレートを生物スキャナに提示すると、生物スキャナはプレートの画像を生成するとともに画像の分析を行って生物成長を検出することができる。例えばスキャナは細菌コロニーの数など、画像に現れる生物剤の量を計数あるいは定量し得る。このように生物スキャナは生物成長プレートの分析を自動化することにより、このような分析を改善するとともに人為ミスの可能性を低減する。
【0019】
また本発明による生物スキャナは、異なるタイプの生物成長プレートを走査するとともにプレート画像を分析するために画像処理プロファイルの選択を自動化する。スキャナはスキャナにより走査されるプレートのタイプを自動的に識別した後、識別したプレートタイプに適した画像処理プロファイルの1つを選択する。画像処理プロファイルは異なるタイプの生物成長プレートに対する画像取込条件、画像分析基準またはその両方の組み合わせを指定し得る。例えば画像処理プロファイルは、画像取込用の特定のプレートタイプの照明強度、継続時間および照明用色を指定し得る。また画像取込条件はカメラ利得、解像度、アパーチャ、および露光時間を含み得る。画像分析基準の点では画像処理プロファイルは、取込画像内の異なるタイプの細菌コロニーを計数する際に異なる色、形状、サイズおよび近接基準を指定することにより、分析結果の精度、例えば計数を向上し得る。そのため画像処理プロファイルは画像取込および分析の両方に関連し得る。精度は食品および実験用試料試験環境の両方において重要である。食品安全性の場合は特に、正確な結果によってライン生産、設備および環境試験を始めとする食品処理動作を通して重要管理点での衛生確認が可能になる。」
(甲1(ウ))
「【0032】
成長エリア26内の生物成長プレート22の表面上に、概して液状の被験材料の試料を配置した後、プレート22を培養室(図示せず)に挿入することができる。培養室において、図4の生物成長プレート22に示すように成長プレート22により成長する細菌コロニーまたは他の生物剤が出現する。図4の生物成長プレート22上の様々なドット30で表されるコロニーはプレート22上に異なる色で出現し、スキャナ10による細菌コロニーの自動検出および測定を容易にする。
【0033】
図5A~5Dは、画像処理プロファイル選択用に生物成長プレート22により担持される例示的なプレートタイプ標識28を図示する図である。またプレートタイプ標識28は光学的または機械的読取可能性を可能にするパターン、マーク、アパーチャ、表面輪郭等の形状を取り得る。例えば光復号器、バーコードスキャナ、光学式文字識別(OCR)プロセッサ等により異なる光学パターンを読み取ることができる。アパーチャまたは輪郭の場合、機械的な針がアパーチャまたは輪郭と相互作用して異なるパターンを検出して電気信号を生成し得る。代替的にはプレートタイプ標識28は磁気的な符号化ストライプまたはマーカーであり、もしくは無線識別表示を担持して磁気的または無線読取可能性を可能にする。
【0034】
生物成長プレート22の表面上、例えば成長エリア26の外側にインクを印刷または付着させることにより光学的に読取可能なパターンを形成し得る。アパーチャまたは表面輪郭パターンは穿孔、刻印、エンボス、打ち抜き等により、生物成長プレート22内に形成することができる。磁気ストライプまたは無線識別表示を、例えば接着剤または積層技術により生物成長プレート22の表面に貼り付け得る。さらに生物成長プレート22の表面に磁気または無線標識を担持する必要はなく、成長プレートが多層構造を有する場合には成長プレートの層間に介在させ得る。いずれの場合も生物成長プレート22のタイプを識別するために、工場において様々なプレートタイプ標識28を形成し得る。」
(甲1(エ))
「【0040】
図6は生物スキャナ10の内部動作を図示するブロック図である。図6に図示するように、生物成長プレート22は台(図6では図示せず)上の生物スキャナ10の内部に配置されている。台は生物成長プレート22を撮像装置32の所望の焦点面に配置する。撮像装置32は成長プレート22の上面および背面照明用の照明ハードウェア、および成長プレート22の表面の画像を取り込むラインまたはエリアスキャナを含み得る。撮像装置32が標準画像取込条件を適用するか、またはユーザが画像取込条件を指定し得る。代替的には以下に説明するようにスキャナ10は、プレートタイプに対応する画像処理プロファイルに基づいて自動的に画像取込条件を制御し得る。
【0041】
いくつかの実施形態において、例えば撮像装置32は二次元カメラの形状を取り得るが、ラインスキャナはカメラまたは生物成長プレート22のいずれかが他に対して並進される構成で使用できる。一般に撮像装置32は生物成長プレート22または少なくとも生物成長プレート内の成長領域の画像を取り込む。プロセッサ34は撮像装置32の動作を制御する。動作中、プロセッサ34は撮像装置32を制御して生物成長プレート22の画像を取り込む。プロセッサ34は撮像装置32から走査画像を表わす画像データを受け取るとともに、画像の一部分を抽出または分離してプレートタイプ標識28を隔離する。
【0042】
プロセッサ34はマシンビジョン技術を利用してプレートタイプ標識28を分析し、生物成長プレート22に関連するプレートタイプを識別する。そしてプロセッサ34は画像処理プロファイルメモリ36から画像処理プロファイルを検索する。画像処理プロファイルは検出されたプレートタイプに対応している。プロセッサ34はマイクロプロセッサ、デジタル信号プロセッサ、アプリケーション特定用途向け集積回路(ASIC)、フィールド・プログラマブル・ゲート・アレイ(FPGA)または本明細書に記載されているような機能性を提供するようにプログラムまたは構成された他の集積または個別論理回路の形状を取り得る。
【0043】
プロセッサ34は画像処理プロファイルを利用して適正な画像分析パラメータを読み込むとともに生物成長プレート22の走査画像を処理するように進行する。このようにプロセッサ34は生物成長プレート22から得られた画像データを処理するという意味で画像処理装置をなす。画像分析パラメータは画像処理プロファイルおよび検出されたプレートタイプとともに変化して、走査画像の分析に対してコロニーの色、サイズ、形状および近接基準などの特定のパラメータを指定し得る。
【0044】
いくつかのプレートタイプの場合、例えば周囲の栄養培地の色は高コロニー数の標識であり得る。また特定の炭水化物およびpH指示薬を含むプレートの場合、色は有機体のタイプの標識になり得る。気泡などの隣接物体も有機体のタイプの標識になり得る。従って様々な画像処理基準および関連するパラメータを様々なプレートタイプに対して指定し得る。基準は被分析プレート22のタイプにより異なるとともに、生物スキャナ10により生成されるコロニー数または他の分析結果に大きく影響し得る。
【0045】
適切な画像処理パラメータを選択すると、プロセッサ34は走査画像を処理するとともに、ディスプレイ16を介してユーザに提示されるコロニー数などの分析結果を生成する。またプロセッサ34は後にスキャナ10から検策するために、分析結果をカウントデータメモリ38などのメモリに記憶する。カウントデータメモリ38に記憶されたデータは例えば通信ポート40、例えばユニバーサルシリアルバス(USB)ポートを介して生物スキャナ10と通信しているホストコンピュータによって検索し得る。ホストコンピュータは、分析のために生物スキャナ10に提示される一連の生物成長プレート22に対する分析結果をコンパイルし得る。
【0046】
生物スキャナ10内の画像処理プロファイルの自動選択は、適当な画像処理プロファイルを選択するための便利で精度の高い技術を提供することができる。画像処理プロファイルの自動選択は細菌コロニー計数および他の分析手順の精度を向上させることができる。特に自動画像処理プロファイル選択により技術者がプレートタイプを目視で識別して手動で入力する必要性をなくすことができる。このようにして人間の介入に関連する場合もあるプレート識別エラーをなくすことができる。その結果、スキャナ10とプレートタイプ標識28を担持する生物成長プレート22とを組み合わせると、効率および実験技術者の作業フローを向上させることができる一方、分析精度、そして最終的には食品安全性および人間の健康を高めることができる。」
(2)甲2の記載事項
甲2には以下のとおり記載されている。(原文は英文であるため当審による翻訳文で示す。下線は当審による。)
(甲2(ア))
「コロニーカウントの自動化により、細菌量の推定を向上させることができる。この目標を達成するためには、特に比較的低菌量(例えば80~100コロニー未満)の場合、シングルコロニーまたは小さなコンフルエントな凝集体を正確かつ正確にカウントできることが保証される必要があり、これによりソフトウェアは細菌量の間隔の観点からプレートを安全にソートし、陰性サンプル(すなわち所定の閾値より低いコロニー数を示す)をスクリーニングすることができる。一方、細菌負荷が高い場合、特に大量のコンフルエント領域が発生する場合、正確なカウントは必要なく、ある程度粗く推定することができる。一般に、コロニーカウント法は、セグメンテーション処理から始まる。その後、セグメントに含まれるコロニー数を列挙し、外れ値を破棄することが通常必要である(図2参照)。本研究では、この特定のステップに着目している。提案する手法の特徴は、コロニー集合体の基数を推定するために畳み込みニューラルネットワーク(CNN)を教えることであり、従来の画像処理手法を凌駕するソリューションを提案することである。各セグメントに含まれるコロニー数が確定し、外れ値が除去されれば、全体のカウントを決定するのは些細なことである。より一般的には、大きな凝集体が存在する中程度の高濃度の細菌負荷に対して、提案するソリューションは、細菌数評価システムの(拡張可能な)コンポーネントとして考えることができる。」(7458頁左欄44行~右欄23行)
(甲2(イ))
「II.関連研究
細菌のコロニーカウントに関する文献には、様々な方法が報告されている。[3]では、2値化された画像に対して距離変換を行い、ある閾値以上の値を持つ局所最大値をコロニーと見なす方法が提案されている。また、[4]では、特定の照明が特定のコロニーに無数のスポット反射を発生させることを利用する方法が提案されている。また、[5]と[6]では、コロニーを分割した後、塊の分割に分水嶺変換を用いる方法が報告されている。また、[7]では、グレースケールの形態素解析による計数のためのソリューションが紹介されている。これらの方法は、通常、パラメータの手作業による調整に依存しており、ある限られた設定に対してのみ効果的に調整することができる。しかし、臨床の現場で遭遇する多種多様な状況に直面した場合、これらの手法には困難が伴う可能性がある。例えば、高解像度画像上の直径10ピクセル程度のマイクロコロニーと、直径数百、数千ピクセルのマクロコロニーを同時に扱う場合、分水嶺分割のための正しい閾値を設定することは難しく、特に全てのコロニーが規則的に丸い形態を持っているとは限らない臨床現場においては、このような問題に直面することがある。従来の画像処理手法の欠点から、セグメントのカーディナリティを決定するための分類アプローチの設計が提案されている。[8]では、セグメントの形状分類に基づく方法が提示されている。Sangerニューラルネットワークを採用し、2値セグメントの次元削減を行い、1~7コロニー、または外れ値に分類することで、流域ベースの技術で達成可能な結果と類似した結果を得ることができる。[9]では、多段階の分類により、孤立したコロニーを識別する。このコロニーは、2値セグメントのZernikeモーメント表現を入力とする分類器によって検出される。検出された孤立コロニーは、次に異なる細菌種に分類される。
CNNは階層的なモデルであり、多くのオブジェクトの分類や検出のアプリケーションにおいて最先端の性能を達成している。CNNは、画像や音声のような高次元の構造化された入力を扱う際に、完全連結型ディープニューラルネットワークの既知の問題を克服するために最初に導入された[10]。最近では、高速なGPUの出現と、オリジナルの設計に加えられたいくつかのトリックによって、CNNは大規模なオブジェクト分類[11]、[12]や、高解像度画像上のオブジェクト検出タスクに対する最先端のソリューションとなった[13]、[12]。CNNは既に様々な生物医学的な画像問題に適用されている。[14] では、線虫の発生中の胚の細胞や核がセグメンテーションされ、位置が特定された。また、[16]では、乳癌の組織画像における細胞核の有糸分裂検出のためにCNNシステムが設計され、従来の解決策を大幅に上回る性能を示した。」(7458頁右欄23行~7459頁左欄48行)
(甲2(ウ))
「V.結果と考察
得られた結果は図4にまとめられており、これは反復回数に対するテスト精度の学習曲線を表している。多くの拡張されたデータセットがテストされた。マスキング処理により、元の(マスキングされていない)データセットと比較して、1.5ポイントの精度の向上が見られた。色空間をグレースケールに変換しても同等の結果が得られ、コロニーの形態が最も識別性の高い特徴を与えることが示唆された。データセットに人工的な色の歪みを加えても、サイズ変更したデータセットや回転させたデータセットのように、全体的な精度という点では大きな性能向上は見られなかった。水平反転させたデータセットが最も良い性能を示し、92.8%の総合的な精度を達成した。学習中、テスト精度は15000回の反復で横ばいになった。Nvidia Titan Black GPUでは、50000回の繰り返しで約3時間かかった。
図5に、最も性能の良いモデルの混同行列を示す。この混同行列から、3?6個のコロニーからなるクラスターに対応するクラスが誤って分類されることがあっても、誤って選択されたラベルは主対角線付近に留まり、例えば、5個のコロニーからなるクラスターは6個のコロニーからなるクラスターと混同されることがあることが分かる。このため、混同行列の実質的な対称性を考慮しても、最終的な細菌数推定値にはわずかな影響しかない。これらの集合体の識別は、訓練を受けた技術者にとっても困難な場合が多い。この分類器は、標準的な画像や特徴分析技術では識別が難しいことが多い外れ値を効果的に検出することができた。」
(7460頁右欄20行~7461頁左欄6行)
(3)甲4の記載事項
甲4には以下のとおり記載されている。(原文は英文であるため当審による翻訳文で示す。下線は当審による。)
(甲4(ア))
「要旨
細菌コロニーの計数は、広く用いられている多くのバイオメディカルアッセイに不可欠なツールである。しかし、ペトリプレート上には数百から数千のコロニーが存在するため、コロニー計数はスループットが低く、時間と労力を要するプロセスであり、熟練した技術者が手作業で行っていることが多い。本論文では、完全自動でありながら費用対効果の高いバクテリアコロニーカウンターを紹介する。提案手法は、有彩色と無彩色の画像を認識することができるため、カラーと透明な媒体の両方に対応することができる。また、一般的なデジタルカメラの画像も入力として受け付けることができる。本手法は、ディッシュ/プレート領域の検出、コロニーの識別、凝集したコロニーの分離を行い、最終的に一貫性のある正確な計数結果を報告するものである。提案するカウンタは、精度・再現性の両面で有望な性能を持ち、柔軟で効率的な省力化・時間短縮が可能である。」
(甲4(イ))
「コロニー計測の自動化においては、コロニーや培地の色が異なるという課題がある。これは、細菌の種類によって必要とする栄養素が異なるためで、これらの成分によって培地の色も様々に変化する。また、異なる種類の培地で増殖したバクテリアは、異なる色で表示されることもある。そのため、色情報が豊富なコロニー画像もあれば、そうでないものもある。例えば、ミュータンス連鎖球菌は青い色のMitis-Salivarius寒天培地では黒いコロニーに見え、大腸菌は透明なLB寒天培地では白いコロニーに見える。既存のコロニーカウント用ソフトウェアを使用した経験から、異なる種類の培地のニーズを満たすことができる単一の最適なアルゴリズムは存在しない。そのため、色情報を持つ画像と持たない画像を別々に処理することがより適切であると考えている。
人間は訓練すれば培地上の細菌のコロニーを容易に認識できるが、コンピュータは予備知識なしにコロニーを「見る」ことは難しい。そこで、人間の認識行動を再現するために、3つのステップからなるアプローチを考案した。人間がバクテリアコロニーの画像を見るとき、画像から徐々にオブジェクトを識別していく。まず、画像中の最も大きな物体であるプレート・プレート領域を認識する。次に、プレートやプレートの領域内で、色や形など何らかの基準でコロニーを探し始める。図1は、この階層構造のイメージ図である。コロニーが密集している場合、オペレータは最良の視覚的判断に基づき、密集しているコロニーを分離しようとする。すべてのコロニーを識別した後、オペレータはコロニーの総数をカウントする。
本論文では、色情報が豊富なコロニー画像と色情報が少ないコロニー画像を区別して処理する枠組みを提案する。まず、画像に色情報があるかどうかを判断する。次に、ディッシュ/プレートの領域を特定する。第3ステップでは、コロニー候補を特定し、さらに統計処理を行い、「真の」コロニーを特定する。クラスター化されたコロニーは、さらにWatershedアルゴリズム[7]によって分離される。最後に、残ったセグメントの数が総コロニー数として報告される。」(234頁左欄43行~右欄33行)
(甲4(ウ))
「2.提案するバクテリアコロニーカウンター
提案システムの概要を図2に示す。まず、入力画像に対して、その有彩色/無彩色成分を調べ、どのような画像(有彩色/無彩色)であるかに応じて、適切な処理方法を選択する。次に、図1に示すように、画像の階層構造に基づいて、段階的にオブジェクトを抽出していく。・・・
図2 提案システムの概要
画像上の全てのコロニーを特定したら、各区分のモルフォロジーを確認する。これは、一部のコロニーが集合して大きなクラスターを形成している可能性があるため、必要な作業である。そのため、正確なコロニー数を得るためには、それらのクラスター化したコロニーを分離する必要がある。このため、Watershedアルゴリズム[7]を用いて、コロニーのクラスターを検出し、セグメント化する。ディッシュ/プレート上のすべてのコロニーを識別し、分離した後、検出されたセグメントの数をカウントし、それを細菌コロニーの総数として使用する。」(234頁右欄39行~235頁左欄16行)
(甲4(エ))
「2.2. 画像セグメンテーション
提案するバクテリアコロニーカウンターの核となるのは、画像のセグメンテーションである。セグメンテーションの目的は、前景オブジェクトと背景を区別することである。この目的のために、閾値処理技術とクラスターリング技術の2つの一般的な選択肢がある。閾値処理では、グローバルな閾値を用いて前景と背景を分離し、クラスターリングでは、クラス間およびクラス内の類似性に基づいてオブジェクトを分割する。閾値処理技術は非常に簡単で効率的であるが、2つ以上のクラスを含む画像を扱う場合には安定しない。我々の予備実験によれば、より複雑で時間のかかるマルチクラスクラスターリング手法は、ロバスト性、説明可能性、投影可能性の点で閾値処理手法よりも一般に性能が劣ることがわかった。本論文では、バクテリアコロニー画像セグメンテーションのための新しい閾値処理に基づく手法を提案する。
閾値技術を用いたセグメンテーションを行うためには、対象領域が2つ以上のクラスを含むという問題を解決しなければならない。図1に示すように、コロニー画像中の対象は自然な階層構造になっており、漸進的に分離できる可能性があることがわかる。
第一階層の対象は、画像全体である。前景はプレート・プレート領域、背景はプレート・プレート領域の周囲にある領域である。プレート・プレート領域が分離された後、前景オブジェクトはコロニー、背景はプレート・プレート領域内の媒体やその他のアーティファクトを含む第2レベルに移行する。
このように、有彩色媒体と無彩色媒体が混在する画像に対して、後工程で別々に対応するアプローチを提案する。有彩色画像は無彩色画像に比べ、色情報を多く含むため、セグメンテーションが非常に容易である。以下では、まず有彩色画像に対するセグメンテーションの方法を紹介し、次に無彩色画像に対するアプローチを紹介する。」(235頁右欄19行~236頁左欄9行)
(甲4(オ))
「次に、ディッシュ/プレート上のコロニーを分離し、クラスター化したコロニーを識別し、その後のコロニー列挙のために凝集した細菌コロニーを分離する。コロニーと培地の分離には大津の方法[9]を用いるほか、コロニー境界の検出を補助するためにHSV(Hue-Saturation-Value)色空間での色の類似性を採用する[10]。これは、画像中に傷、ほこり、マーカー、気泡、反射、へこみなどのアーティファクトが存在するため、単純なグローバル閾値ではすべてのコロニーを正しく識別できないために必要である。HSV色空間における色の類似度の計算を式1に示す。・・・
ここで、CSij は二つの画素 i と j の色の類似度、H, S, V は HSV 色空間での画素の色相、彩度、値である。
これは、コロニーセグメント、ミディアムセグメントにかかわらず、セグメント内部の画素は隣接する画素との類似度が高く、セグメント境界に沿った画素は隣接する画素との類似度が低いという仮定に基づくものである。ある画素とその近傍8画素との色の類似度を計算し、その類似度の最小値を近傍画素との色の差の最大値として用いる。そのため、同一セグメント内の画素は、類似度の最小値が高くなる。逆に、セグメントの境界にある画素は値が小さくなる。計算後、境界はより明確になり、色の類似度の最小値はグレースケール画像として行列を形成した。このように、プレート・プレート領域検出の段階で用いた大津の方法を採用することで、背景(中域)と前景物体(コロニー候補)の区別をより明確にすることができる。
理想的には、前のステップで孤立した前景オブジェクトは、1つのコロニーに対応する。しかし、このような物体は複数のコロニーに対応する可能性がある。なぜなら、複数のコロニーが集まっている可能性があるからである。そのため、正しいコロニー数を得るためには、コロニーを分割する必要がある。このため、水の洪水が地表に現れるように、分水嶺アルゴリズムを適用して、画像中のクラスター化したコロニーを分割することができる。この概念を説明するために、図4で分水嶺アルゴリズムの適用を示す。
分水嶺アルゴリズムを適用した結果、ほぼすべてのクラスター化したコロニーセグメントを分離・識別することができ、コロニー列挙の準備が整った。」(236頁左欄45行~237頁左欄15行)
(4)甲5の記載事項
甲5には以下のとおり記載されている。(下線は当審による。)
(甲5(ア))
「【0018】
本実施形態の作業情報は、製造工程又は検査工程に係わる各種の情報の他に、検体として製造工程又は検査工程から抽出された食品及び当該検体に含まれる細菌の培養に関する情報を含み、作業毎に、固有の識別情報(以下、「作業ID」という。)を用いてデータベース400に登録されるようになっている。
【0019】
具体的には、各作業情報には、
(1)作業IDと、
(2)検体を抽出すべき作業ライン80の識別情報(以下、「ラインID」という。)又は作業ライン80が複数の工程を有している場合には、ラインID及び工程の識別情報(以下、「工程ID」という。)と、
(3)検体としての食品の製品名、ロットの識別情報(以下、「ロットID」という。)及びロット名と、
(4)一般生菌又は大腸菌群等の、検体から検出する細菌の種別(以下、「検査種別」という。)と、
(5)培地の種類、検体の希釈液の種別、希釈倍率、培養温度、培養湿度及び培養時間等の検体の培養条件と、
(6)検体の培養開始時刻と、
(7)検体の培養開始から所定の時間経過後の時刻(以下、「培養検査時刻」ともいう。)と、
(8)インキュベータ番号及びインキュベータ内の段数等の位置等の検体の培養場所と、
(9)作業開始時刻及び終了時刻を示す作業日時と、
(10)作業者ID(社員ID)及び作業者名と、
が含まれる。そして、作業情報の各情報は、種別毎にかつ作業毎にデータベース400に登録されている。
【0020】
携帯用通信端末装置10は、例えば、通信機能を有するデジタルカメラ、タブレット型情報端末装置、スマートフォン又は携帯用電話機等、静止画像等の撮像機能又は録画機能(以下、単に「カメラ機能」という。)を有し、かつ、作業者によって携帯可能な通信端末装置である。
【0021】
特に、携帯用通信端末装置10は、カメラ機能によって、フィルム型培地60を画像化して画像データ(以下、「培地画像データ」という。)を生成するとともに、作業指示書70を画像化して指示書画像を生成することが可能な構成を有している。
【0022】
そして、携帯用通信端末装置10は、画像化された指示書画像のデータ(以下、「指示書画像データ」という。)及びフィルム型培地60の培地画像データから作業ID及び培地の識別情報(以下、「培地ID」という。)を取得し、当該取得した作業ID及び培地IDと、培地画像データと、当該培地画像データのメタデータと、を培地情報として、サーバ装置40のデータベース400に登録することが可能な構成を有している。
【0023】
一方、携帯用通信端末装置10は、培地情報をサーバ装置40に送信する際には、BLUETOOTH(登録商標)、ワイヤレスLAN(WLAN:Wireless Local Area Network)又はワイヤレスPAN(WPAN:Wireless Personal Area Network)等の近距離無線用の通信規格を用いて直接若しくはアクセスポイント50を介してサーバ装置40に送信し、又は、図示しない移動基地局を介して公衆電話回線網を用いてサーバ装置40に送信する構成を有している。
【0024】
そして、携帯用通信端末装置10は、XML(eXtensible Markup Language)等のマークアップ言語によって構築されたブラウザ機能を有し、当該ブラウザ機能を用いて作業者の操作入力指示及び操作確認を実行するとともに、当該ブラウザ機能を介して培地情報をサーバ装置40に送信するようになっている。
【0025】
管理者端末装置20は、例えば、タブレット型情報端末装置、スマートフォン、パーソナルコンピュータ又はワークステーション等の情報通信端末装置である。そして、管理者端末装置20は、管理者の識別情報(以下、「管理者ID」という。)と管理者のパスワード及び作業者の識別情報(以下、「作業者ID」という。)を管理し、サーバ装置40へのアクセス権限の管理、携帯用通信端末装置10の端末IDの管理、及び、登録された培地情報の修正その他の管理を行うことができる制御装置として機能する。
【0026】
また、管理者端末装置20は、携帯用通信端末装置10と同様に、マークアップ言語によって構築されたブラウザ機能を有し、当該ブラウザ機能を用いてサーバ装置40とのデータの授受、報告書の閲覧等を実行することができる構成を有している。
【0027】
なお、管理者端末装置20は、同一ロット内において、工程を実行する機械の故障その他によって各作業が中断した場合に、又は、作業者における培地情報の登録ミス等が発生した場合に、培地情報その他の情報を修正することができる構成を有している。
【0028】
ネットワーク30は、例えば、携帯電話網を含む公衆電話回線網(以下、「長距離通信ネットワーク」という)、近距離無線ネットワーク等のIP(Internet Protocol)ネットワーク、又は、その双方が相互接続されて構成されている。ただし、当該ネットワーク30の構成は、これに限られない。
【0029】
サーバ装置40は、携帯用通信端末装置10又は管理者端末装置20と連動し、ロット及び作業ライン80の衛生管理を行うための各データ処理を実行するために用いられるサーバ装置である。
【0030】
そして、サーバ装置40は、携帯用通信端末装置10と連動し、データベース400に、培養開始前の各フィルム型培地60における培地情報の登録(以下、「初期登録」という。)、及び、培養開始後の登録(以下、「培養後登録」という。)を行うとともに、携帯用通信端末装置10から送信された培地情報を取得し、当該取得した培地情報の培地画像データによって形成される培地の画像(以下、「培地画像」という。)から、検体の培養によって形成されたコロニーを検出する構成を有している。」
(4)甲7の記載事項
甲7には以下のとおり記載されている。(原文は英文であるため当審による翻訳文で示す。下線は当審による。)
(甲7(ア))
「1. はじめに
細胞のセグメンテーションとカウントは手間のかかる作業であり、研究の貴重な時間を奪う可能性がある。一般的に、科学者は画像内のローカルグリッドにある細胞の数を手動で推定する必要がある[1]。これをプレート上の様々な格子点で繰り返し、平均密度を求め、それを細胞の総数の推定に使用する。第一に、人間が手作業で細胞数を数える必要があり、主観的な誤差が生じる可能性があること、第二に、一連の新しい実験の理解、設計、実行にもっと有効に使えるはずの時間を大幅に要すること、最後に、こうした分析からエラーバーを得る方法が完全に明白でないことである。さらに、このような分析からエラーバーをどのように取得するかは完全には明らかではない。このタスクのためのより洗練されたツールは存在するが、コストがかかり、クローズドソースのソフトウェアに依存し、エラーを定量化する問題には対処していない。
ここでは、畳み込みニューラルネットワーク(CNN)を用いて、細胞を数え、不確実性を推定する面倒なプロセスを自動化することを目指す。本手法は、2段階のアプローチをとる。
- 細胞のセグメンテーション 画像中の細胞を識別するためのマスクを生成する。
- 細胞のカウント 前ステップで生成されたマスクから、カウントと信頼区間を推定する。
我々は、ベンチマークデータセットにおいて、我々のアプローチがいかに信頼性の高い細胞計数につながるかを実証する。さらに、モデルの解釈可能性について議論し、我々のモデルがどのようにカウントを学習するのかを評価する。最後に、計数問題に不確実性を取り入れることで、どのようにモデルの信頼性を向上させ、起こりうる故障のケースを特定するのに役立つかを議論する。」(1頁左欄14行~右欄9行)
(甲7(イ))
「2. これまでの研究成果
2.1. セグメンテーション
CNNを用いたセグメンテーションはコンピュータ・ビジョンにおける重要な問題であり、過去数年の間に大きな進展があった[15, 16, 3, 17, 12, 4]。特に注目すべきは、Facebook AI Research (FAIR) が設計した Mask-RCNN アルゴリズムであり、この分野の現在の最先端を表している[4]。また、He, et al.は、画像内の関心領域から滑らかな被写体マスクを生成するための特徴ピラミッドネットワーク(FPN)の使用について述べている[4, 12]。FPN の利点は、入力画像を数回ダウンサンプリングし、異なるスケールの特徴を学習することであり、これによって改善されたセグメンテーションマスクが得られると報告されている[12]。このため、我々はこの手法を細胞のセグメンテーションのタスクに採用した。
我々は、CNNを用いた細胞セグメンテーションが、少なくとも過去に一度、文献で取り上げられたことがあることに注目する。Van Valen らは、セグメンテーションタスクをピクセル単位での分類問題として扱う DeepCell を開発した[20]。
画像中の異なる細胞タイプの分類には成功したが、DeepCellはかなり低解像度のセグメンテーションマスクを生成し、細胞計数の問題を解決することを目的としていない。我々のアプローチは、マスキングと細胞計数にFPNアーキテクチャを活用するため、DeepCellとは根本的に異なるものである。」(1頁右欄10~24行)
(甲7(ウ))
「3. 技術的アプローチ
3.1. Feature Pyramid Networkを用いたセルセグメンテーション
まず、FPN を用いて前景の細胞をその背景からセグメンテーションする。FPNは、複数の空間スケールで特徴マップを構築するために設計された特徴抽出ネットワークである[12]。FPNは、図1に示すように、ダウンサンプリングした画像とそれに対応するアップサンプリングした画像をネットワーク上でクロスリンクさせる計算効率のよいアルゴリズムである。」(2頁左欄41行~右欄3行)
(甲7(エ))
「5.2. カウント
FPNを学習した後、データセットの全画像9,600枚のうち、7,680枚のFPN生成マスクに対してVGG-11ベースのネットワークを学習させた。学習は、細胞数に対してアレオトロピックな不確実性を持つL2損失関数を用い、学習率1E-4、バッチサイズ5でADAMオプティマイザで最適化を行った。
その結果、1,420個のマスクから別々に生成されたカウントの平均検証MSEは、50エポック後に最終値11.2未満に収束することを見出した。学習後、テストセットにおいて、我々の最良のモデルはR2値0.987、平均L1エラー2.4セルを達成できることがわかった。さらに、モデルの不確実性予測を考慮すると、500画像のテストセットにおいて、80%以上のグランドトゥルースカウントがモデルの予測した95%信頼区間内に収まることがわかりました。また、L1誤差の最大値は6セルを超えることはなく、このタスクに対してかなり正確であると思われる。」(4頁17~36行)
(甲7(オ))
「6. 考察
我々は、顕微鏡画像中の細胞を数えるためにCNNアーキテクチャを設計し、訓練し、比較的良い精度を達成することが可能であることを示す。多くの失敗例が生じるが、より良い学習データがこれらの欠点を克服するのに役立つと我々は考えている。」(4頁右欄41~46行)
(5)甲9の記載事項
甲9には以下のとおり記載されている。(下線は当審による。)
(甲9(ア))
「請求の範囲
[請求項1]
コロニーが形成された培地が撮像されて画像化された培地画像のデータを培地画像データとして取得する取得手段と、
取得した前記培地画像データの培地画像を構成する複数のピクセルの色特徴量を抽出する抽出手段と、
抽出した複数のピクセルの色特徴量に基づいて統計的基準を算出する算出手段と、
算出した前記統計的基準に基づいて、所定の条件を具備するピクセルをコロニーピクセルとして特定し、特定したコロニーピクセルに基づいて前記コロニーを検出する検出手段と、
検出した前記コロニーに関する情報を前記培地の情報としてデータベースに登録する登録手段と、
を備えることを特徴とする培地情報登録システム。
・・・
[請求項7]
請求項1~6のいずれか1項に記載の培地情報登録システムにおいて、
前記検出手段は、機械学習によって得られた判別手段を用いて前記コロニーピクセルの特定を行う、培地情報登録システム。」
(甲9(イ))
「[0238]
[7.10]変形例10
本実施形態においては、コロニー検出判定部422は、各ピクセルの色特徴量の応答値が設定された閾値以上である場合に、該ピクセルをコロニーピクセルとして特定しているが、経験則的に、当該応答値と他の色特徴量とを組み合わせた複数次元の特徴量に基づいて、所定の条件を具備するピクセルをコロニーピクセルとして特定してもよい。また、コロニーピクセルの特定を、AdaBoost、サポートベクターマシン(SVM)、人工ニューラルネットワーク(ANN)等の機械学習アルゴリズムによって得られる判別手法を構築して行ってもよい。
[0239]
上述のように、各ピクセルの色特徴量の応答値に他の色特徴量を組み合わせたり、機械学習等による判別手法を構築することにより、コロニー検出判定部422は、コロニーピクセルを正確に特定することができるようになり、もってコロニーカウントの精度を向上させることができるようになる。」
(6)文献Aの記載事項
文献Aには以下のとおり記載されている。(下線は当審による。)
(文献A(ア))
「実施例2:画像解析のための画像の前処理
本実施例では、コロニー毎の画像を抽出するためのマスキング処理を行った。
【0068】
まず、マスキング用のマスクを作成するために、実施例1の3×3のSobelフィルタによる画像処理により得られた画像(図2B、3Bおよび4B)を元に画像の二値化を行って、フィーダー領域(黒)とコロニー領域(白)とを分離した。その後、コロニー領域に生じることがある空隙(黒)を白で埋めた(図2C、3Cおよび4C)。
【0069】
次に、コロニーが隣接してつながって存在する場合に、2つまたはそれ以上のコロニーを分離してコロニー毎のマスクを作成するために、ウォータシェッド細分化(Watershed)を行い、つながっている2つ以上のコロニーを分離した。具体的には、画像のユークリッド距離地図(EDM)を計算し、最終的な浸食点(UEP)を見つけ、その縁を可能な限り拡大し、粒子の縁が到達するまで、若しくは他のUEPの領域の縁に到達するまで拡張して、つながっている2つ以上のコロニーを分離した。得られた画像を、バックグラウンドや他のコロニーを排除するためのマスクとした。その後、得られたマスクを用いて実施例1の画像のフィーダー領域や他のコロニー領域をマスキングした(図2D、3Dおよび4D)。」
(7)文献Bの記載事項
文献Bには以下のとおり記載されている。(下線は当審による。)
(文献B(ア))
「[0004]
一方、画像内の対象領域を抽出するために利用される領域分割の方法として、分水嶺(Watershed)アルゴリズムがある(非特許文献1参照)。該分水嶺アルゴリズムは、画像のグレースケール情報(例えば、輝度)を高度とみなした地形において水を満たしていく際に、異なるくぼみに溜まる水の間で境界ができるように画像を分割していく方法である。」
(文献B(イ))
「[0009]
このように形状モデルを利用する特許文献1による認識処理は、円形等の形状とは限らない種々の形状を採り得る認識対象画像、例えば細胞画像などの領域認識には不向きである。この点、非特許文献1に示されるような分水嶺アルゴリズム方式は細胞画像などの領域認識には好適といえる。ここで、分水嶺アルゴリズムを細胞画像の認識に適用する場合、蛍光画像のように細胞内部に向かって輝度値が大きくなる画像では、輝度情報を反転させたり、エッジ抽出を行ったりすることで、細胞部分を輝度値のくぼみとしてから適用する方法が考えられる。」
(8)文献Cの記載事項
文献Cには以下のとおり記載されている。(下線は当審による。)
(文献C(ア))
「【0043】
なお、位相差顕微鏡20で生細胞13を撮像して得た画像は、例えば、画像処理により培養した生細胞13の細胞数を取得するために用いることができる。生細胞13の細胞数は、例えば、Otsu法をはじめとする閾値分離の方法、Level Set法をはじめとする機械学習を用いた方法などによって画像から細胞を検出し、その個数を計数することによって取得することができる。」
4 甲1に記載された発明
甲1には、生物成長プレート22または少なくとも生物成長プレート内の成長領域の画像を取り込む撮像装置32と、撮像装置32から走査画像を表わす画像データを受け取るとともに、画像の一部分を抽出または分離してプレートタイプ標識28を隔離し、マシンビジョン技術を利用してプレートタイプ標識28を分析し、生物成長プレート22に関連するプレートタイプを識別するプロセッサ34と(甲1(エ))、異なるタイプの生物成長プレートに対する画像取込条件、画像分析基準またはその両方の組み合わせを指定し得る画像処理プロファイル(甲1(イ))、画像処理プロファイルメモリ36から画像処理プロファイルを検索し、画像処理プロファイルを利用して適正な画像分析パラメータを読み込むとともに生物成長プレート22の走査画像を処理するプロセッサ34と、ディスプレイ16を介してユーザに提示されるコロニー数などの分析結果を生成するプロセッサ34を備える(甲1(エ))、生物成長培地上の細菌コロニーまたは特定の生物剤の量を読み取るまたは計数するために用いる装置である生物スキャナ10(甲1(ア))が記載されている。(以下、「引用発明1」という。)
5 当審の判断
(1)本件発明9と引用発明1との対比
事案に鑑み、本件発明9の検討を優先する。
本件発明9と引用発明1とを対比すると、引用発明1における「生物成長プレート22」は、特定の細菌または他の生物剤を成長させる他の生物成長培地を含み、液状の被験材料の試料を配置した後、プレート22を培養室に挿入し、培養室において、成長プレート22により成長する細菌コロニーまたは他の生物剤が出現したものである(甲1(ウ))から、本件発明9における「微生物の培養後の培地」に相当する。
引用発明1における「生物スキャナ10」は、細菌コロニーの自動検出および測定をするものであるから、本件発明9における「コロニー検出装置」に相当する。
引用発明1における「撮像装置32」は、生物成長プレート内の成長領域の画像を取り込むものであるから、本件発明9における「コロニーを検出する対象となる培地画像を取得する培地画像取得部」に相当する。
引用発明1における「プロセッサ34」は、ディスプレイ16を介してユーザに提示されるコロニー数などの分析結果を生成するものであるから、本件発明9における「培地画像中のコロニーの総数を算出する算出部」に相当する。
引用発明1における「プロセッサ34」は、画像処理プロファイルメモリ36から画像処理プロファイルを検索し、画像処理プロファイルを利用して適正な画像分析パラメータを読み込むとともに生物成長プレート22の走査画像を処理するものでもあるから、本件発明1における「コロニーがあるか否かを判別するコロニー判別部」に相当する。
したがって、本件発明9と引用発明1は、
「微生物の培養後の培地の画像である培地画像から微生物由来のコロニーを検出するコロニー検出装置であって、
コロニーを検出する対象となる培地画像を取得する培地画像取得部と、
コロニーがあるか否かを判別するコロニー判別部と、
前記コロニー判別部による判別結果に基づいて、前記培地画像中のコロニーの総数を算出する算出部と、
を備えた、
コロニー検出装置。」
である点で一致し、以下の点で相違する。
(相違点1)
本件発明9では、取得された前記培地画像から、前記コロニーの有無を検出対象とする領域であるコロニー候補領域を複数抽出する領域抽出部を備え、前記領域抽出部は、取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域とし、コロニー候補領域のそれぞれにコロニーがあるか否かを判別するのに対して、
引用発明1では、領域抽出部を備えていない点
(相違点2)
本件発明9では、コロニーの有無を判別するために学習モデルを用いるのに対して、
引用発明1では、コロニーの有無を判別するために学習モデルを用いることが記載されていない点
(2)本件発明9と引用発明1に対する進歩性の検討
相違点1について検討する。
甲1のコロニー検出装置では、領域抽出部が記載されていないので、領域抽出部において、取得された前記培地画像から、前記コロニーの有無を検出対象とする領域であるコロニー候補領域を複数抽出し、取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域とすることも当然記載されていないし、これらの発明特定事項の採用を動機付ける記載や示唆も何ら見あたらない。
甲4には、
「本論文では、色情報が豊富なコロニー画像と色情報が少ないコロニー画像を区別して処理する枠組みを提案する。まず、画像に色情報があるかどうかを判断する。次に、ディッシュ/プレートの領域を特定する。第3ステップでは、コロニー候補を特定し、さらに統計処理を行い、「真の」コロニーを特定する。クラスター化されたコロニーは、さらにWatershedアルゴリズム[7]によって分離される。最後に、残ったセグメントの数が総コロニー数として報告される。」(甲4記載事項(イ))
「画像上の全てのコロニーを特定したら、各区分のモルフォロジーを確認する。これは、一部のコロニーが集合して大きなクラスターを形成している可能性があるため、必要な作業である。そのため、正確なコロニー数を得るためには、それらのクラスター化したコロニーを分離する必要がある。このため、Watershedアルゴリズム[7]を用いて、コロニーのクラスターを検出し、セグメント化する。ディッシュ/プレート上のすべてのコロニーを識別し、分離した後、検出されたセグメントの数をカウントし、それを細菌コロニーの総数として使用する。」(甲4記載事項(ウ))
「次に、ディッシュ/プレート上のコロニーを分離し、クラスター化したコロニーを識別し、その後のコロニー列挙のために凝集した細菌コロニーを分離する。コロニーと培地の分離には大津の方法[9]を用いるほか、コロニー境界の検出を補助するためにHSV(Hue-Saturation-Value)色空間での色の類似性を採用する[10]。」(甲4記載事項(オ))と記載されている。
しかし、これらの記載は、コロニーがあることを特定した領域で、コロニーがクラスター化している場合に、それらを分離・計数するためWatershedアルゴリズムを用いて領域を分割することを開示するものであって、分割の対象を、コロニーの有無を検出するためのコロニー候補領域とすることを示唆するものではないし、更に、このコロニー候補領域のそれぞれにコロニーがあるか否かの判別を行うことを示唆するものとも認められない。
したがって、甲4には、相違点1として挙げた、本件発明9の発明特定事項である「取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域」とすること、及び、「コロニー候補領域のそれぞれにコロニーがあるか否かを判別する」ことが示唆されているとはいえない。
また、甲2及び、甲5、7、9、文献A~Cにも、上記の本件発明9の発明特定事項を示唆する記載はない。
よって、本件発明9は、相違点2について検討するまでもなく、甲1及び、甲2、4、5、7、9、文献A~Cの記載を勘案しても、引用発明1に基づき、当業者が容易に想到し得たものとは認められない。
(3)その他の請求項に係る発明と引用発明1に対する進歩性の検討
本件発明1、10~13は、いずれも、本件発明9と同様に、「取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域」とすること、及び、「コロニー候補領域のそれぞれにコロニーがあるか否かを判別する」ことを発明特定事項とするものであるから、本件発明9と同様の理由により、上記文献に記載された発明に基づいて当業者が容易に発明をすることができたものとはいえない。
また、本件発明2~4、6~8は、本件発明1を直接又は間接的に引用するものであるので、本件発明1と同様の理由により、上記文献に記載された発明に基づいて当業者が容易に発明をすることができたものとはいえない。
したがって、取消理由1は理由がない。
第5 取消理由通知において採用しなかった特許異議申立理由について
1 申立人の主張
申立人は、特許異議申立書において、以下のように主張する。
(1)申立理由1(甲1を主引用例とする進歩性の欠如)
訂正前本件発明1~13は、甲1に記載された発明(主引用発明)及び、甲2~8に基いて、当業者が容易に発明をすることができたものであるから、請求項1~13に係る特許は、特許法第29条第2項の規定に違反してされたものであり、取り消されるべきものである。
(2)申立理由2(甲2を主引用例とする進歩性の欠如)
訂正前本件発明1~13は、甲2に記載された発明(主引用発明)及び、甲1、3~8に基いて、当業者が容易に発明をすることができたものであるから、請求項1~13に係る特許は、特許法第29条第2項の規定に違反してされたものであり、取り消されるべきものである。
(3)申立理由3(甲4を主引用例とする進歩性の欠如)
訂正前本件発明1~13は、甲4に記載された発明(主引用発明)及び、甲1~3、5~8に基いて、当業者が容易に発明をすることができたものであるから、請求項1~13に係る特許は、特許法第29条第2項の規定に違反してされたものであり、取り消されるべきものである。
(4)申立理由4(甲9を主引用例とする進歩性の欠如)
訂正前本件発明1~13は、甲9に記載された発明(主引用発明)及び、甲1~8に基いて、当業者が容易に発明をすることができたものであるから、請求項1~13に係る特許は、特許法第29条第2項の規定に違反してされたものであり、取り消されるべきものである。
2 申立理由1について
申立人は、甲1に記載された発明を主引用発明とし、甲2~甲8を提示して、訂正前本件発明1~13は、甲1~甲8に基づいて、当業者が容易に発明をすることができたものである旨を主張している。
しかしながら、本件発明9と甲1に記載された発明は、少なくとも第4の5(1)の相違点1として挙げた発明特定事項、すなわち、「取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域」とすること、及び、「コロニー候補領域のそれぞれにコロニーがあるか否かを判別する」ことで相違し、この点は取消理由において検討していない甲3、甲6、甲8に記載も示唆もされていない。
そうすると、本件発明9及び上記の発明特定事項を備える本件発明1~4、6~8、10~13は、上記文献に記載された発明に基づいて当業者が容易に発明をすることができたものとはいえない。
したがって、申立理由1(進歩性)は理由がない。
3 申立理由2について
申立人は、甲2に記載された発明を主引用発明とし、甲1、甲3~甲8を提示して、訂正前本件発明1~13は、甲1~甲8に基づいて、当業者が容易に発明をすることができたものである旨を主張している。
しかしながら、本件発明9と甲2に記載された発明は、少なくとも第4の5(1)の相違点1として挙げた上記の発明特定事項で相違し、この点は甲1、3~8に記載も示唆もされていない。
そうすると、本件発明9及び上記の発明特定事項を備える本件発明1~4、6~8、10~13は、上記文献に記載された発明に基づいて当業者が容易に発明をすることができたものとはいえない。
したがって、申立理由2(進歩性)は理由がない。
3 申立理由3について
申立人は、甲4に記載された発明を主引用発明とし、甲1~甲3、甲5~甲8を提示して、訂正前本件発明1~13は、甲1~甲8に基づいて、当業者が容易に発明をすることができたものである旨を主張している。
(1)甲4に記載された発明の認定
甲4には、一般的なデジタルカメラの画像も入力として受け付けることができ、ディッシュ/プレート領域の検出、コロニーの識別、凝集したコロニーの分離を行い、最終的に一貫性のある正確な計数結果を報告するバクテリアコロニーカウンター(甲4(ア))が記載され、当該画像には、ディッシュ/プレート領域、コロニーが含まれること、「真の」コロニーを特定し、クラスター化されたコロニーは、さらにWatershedアルゴリズム[7]によって分離され、最後に、残ったセグメントの数が総コロニー数として報告されることが記載されている(甲4(イ))。
したがって、甲4には、以下の発明が記載されていると認められる。
「ディッシュ/プレート領域、コロニーを含む画像からバクテリアコロニーを検出するバクテリアコロニーカウンターであって、
ディッシュ/プレート領域、コロニーを含む画像を入力として受け付けるステップと、
取得されたディッシュ/プレート領域、コロニーを含む画像から、コロニー候補領域を特定するステップと、
「真の」コロニーを特定する統計処理部と、
クラスター化したコロニーセグメントを分水嶺アルゴリズムを適用して、分離・識別するステップと、
コロニーとして識別されたオブジェクトの数を合計することにより、生存可能なコロニーの総数を取得するステップと、
を備えるバクテリアコロニーカウンター。」(以下、「甲4発明」という。)
(2)本件発明9と甲4発明の対比
甲4発明における「ディッシュ/プレート」は、培地上に細菌のコロニーが生じたものである(甲1(エ))から、本件発明9における「微生物の培養後の培地」に相当する。
甲4発明における「バクテリアコロニーカウンター」は、細菌コロニーの自動検出および測定をするものであるから、本件発明9における「コロニー検出装置」に相当する。
甲4発明における「ディッシュ/プレート領域、コロニーを含む画像を入力として受け付ける」ことを担う装置は、ディッシュ/プレート領域のコロニーを含む画像を取り込むものであるから、本件発明9における「コロニーを検出する対象となる培地画像を取得する培地画像取得部」に相当する。
甲4発明における「コロニーとして識別されたオブジェクトの数を合計することにより、生存可能なコロニーの総数を取得する」装置は、本件発明9における「培地画像中のコロニーの総数を算出する算出部」に相当する。
甲4発明における「分水嶺アルゴリズム」は、本件発明9における「取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割」することに相当する。
したがって、本件発明9と甲4発明は
「微生物の培養後の培地の画像である培地画像から微生物由来のコロニーを検出するコロニー検出装置であって、
コロニーを検出する対象となる培地画像を取得する培地画像取得部と、
前記コロニー判別部による判別結果に基づいて、前記培地画像中のコロニーの総数を算出する算出部と、
を備え、
取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割する情報処理部を備える
コロニー検出装置。」
である点で一致し、以下の点で相違すると認められる。
(相違点3)
本件発明9では、取得された前記培地画像から、前記コロニーの有無を検出対象とする領域であるコロニー候補領域を複数抽出する領域抽出部を備え、前記領域抽出部は、取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割し、分割して得られた複数の領域のそれぞれをコロニー候補領域とし、コロニー候補領域のそれぞれにコロニーがあるか否かを判別しているのに対して、
甲4発明では、取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割することでクラスター化したコロニーセグメントから分離・識別されたコロニーを得ているものの、分割して得られた複数の領域をコロニーの有無を検出対象とする領域であるコロニー候補領域とすることやコロニー候補領域のそれぞれにコロニーがあるか否かの判別を行っていない点。
(相違点4)
本件発明9では、コロニーの有無を判別するために学習モデルを用いるのに対して、
甲4発明では、コロニーの有無を判別するために学習モデルを用いることが記載されていない点
(3)本件発明9の甲4発明に対する進歩性の検討
ア.相違点3の容易想到性の検討
相違点3について検討する。
甲4におけるコロニー検出装置においては、「クラスター化したコロニーセグメント」すなわちコロニーが存在することを前提とし、さらに分離・識別されたコロニーを得る段階で、「取得した培地画像をグレースケール化し、2値化処理を実行し、前景・背景の分離処理を行い、輝度に基づいて領域を分割」することは記載されているが、領域分割の対象を、コロニーの有無を検出するためのコロニー候補領域とすることは記載も示唆もされていない。
そして、甲1~甲3、甲5~甲8にも、甲4に記載された領域分割の対象を、コロニー候補領域とすることを動機付ける記載や示唆があるとはいえないし、更に、このコロニー候補領域のそれぞれにコロニーがあるか否かの判別を行うことを示唆するものとも認められない。
そうすると、相違点3として挙げた本件発明9の発明特定事項は、甲1~甲8の記載事項を勘案しても、当業者が容易に想到し得たものとはいえない。
イ.申立人の令和5年5月12日付け意見書における主張について
申立人は、甲4には、「理想的には、前のステップで孤立した前景オブジェクトは、1つのコロニーに対応する。しかし、このようなオブジェクトは複数のコロニーに対応する可能性がある。なぜなら、複数のコロニーが集まっている可能性があるからである。そのため、正しいコロニー数を得るためには、コロニーを分割する必要がある。・・・・分水嶺アルゴリズムを適用した結果、ほぼすべてのクラスター化したコロニーセグメントを分離・識別することができ、コロニー列挙の準備が整った。」(237頁左欄1~15行)と記載されており、甲4では、「ほぼ」という記載から、全てのコロニーを分離・識別できていない可能性が示唆され、甲4において、セグメントが真のコロニーの画像であるものとして扱われているわけではない旨主張する。
また、申立人は、仮に甲4でセグメントが真のコロニーの画像であるものとして扱われているとしても、前述したとおり、甲2には、「セグメントに含まれるコロニーを例挙し、外れ値を破棄することが通常必要である(図2参照)。」(7458頁右欄10行~14行:摘記事項甲2(ア))と記載されているから、甲4に記載された事項と甲2に記載された事項から、本件発明は当業者が容易に想到することができたものであるとも主張する。
しかるところ、甲4の「ほぼ」という記載は、単に「すべて」を修飾するものであり、かかる記載より甲4に記載されたコロニーがコロニー候補領域に相当すると解することはできないうえ、甲2の記載と甲4の記載を組み合わせるべき技術的理由はないから、いずれにしても申立人の主張を採用することはできない。
したがって、本件発明1~4、6~13に係る特許は、申立理由3(進歩性)によって取り消すべきものではない。
3 申立理由4について
申立人は、甲9に記載された発明を主引用発明とし、甲1~甲8を提示して、訂正前本件発明1~13は、甲1~甲9に基づいて、当業者が容易に発明をすることができたものである旨を主張している。
しかしながら、本件発明9と甲9に記載された発明は、少なくとも第4の5(1)の相違点1として挙げた上記の発明特定事項で相違し、この点は甲1~8に記載も示唆もされていない。
そうすると、本件発明9及び上記の発明特定事項を備える本件発明1~4、6~8、10~13は、上記文献に記載された発明に基づいて当業者が容易に発明をすることができたものとはいえない。
したがって、申立理由4(進歩性)は理由がない。
第6 むすび
本件特許の請求項1~4、6~13に係る特許は、取消理由通知書に記載した取消理由及び特許異議申立書に記載した特許異議の申立ての理由によっては、取り消すことはできない。
また、他に本件特許の請求項1~4、6~13に係る特許を取り消すべき理由を発見しない。
本件特許の請求項5に係る特許は、本件訂正請求により削除され、特許異議の申立ての対象が存在しなくなったため、当該特許に係る申立ては、特許法第120条の8第1項で準用する同法第135条の規定により却下する。
よって、結論のとおり決定する。
審決本文(J-PlatPat)
J-PlatPatの審決検索トップを開きます。番号入力で「審判番号」を選び、下の番号を貼り付けて検索してください。
J-PlatPat 審決検索を開く
2022-700915