2022-014956

特願２０２０－５４８９３２「複数人の音声を分離する方法、装置、およびコンピュータプログラム」拒絶査定不服審判事件〔令和 ２年 ２月１３日国際公開、ＷＯ２０２０／０２９９０６、令和 ３年 ７月 ８日国内公表、特表２０２１－５１６７８６〕について、次のとおり審決する。

結 論 本件審判の請求は、成り立たない。

理 由 第１ 手続の経緯 本願は、２０１９年（令和元年）８月５日を国際出願日（優先権主張外国庁受理 ２０１８年８月９日、（ＣＮ）中国）とするものであって、その手続の経緯は以下のとおりである。 令和 ２年 ９月１４日 ：手続補正書の提出 令和 ３年１０月２８日付け ：拒絶理由通知書 令和 ４年 １月２８日 ：手続補正書および意見書の提出 令和 ４年 ５月１８日付け ：拒絶査定 令和 ４年 ９月２１日 ：審判請求書、手続補正書の提出 令和 ４年１２月 ６日 ：前置報告書 令和 ５年 ３月１７日 ：上申書の提出 第２ 本件発明 本願の請求項１ないし１１に係る発明は、令和４年９月２１日付け手続補正（以下、「本件補正」という）により補正された特許請求の範囲の請求項１ないし１１の記載により特定されるところ、その請求項１に係る発明（以下、「本件発明」という）は特許請求の範囲の請求項１に記載される、次のとおりのものである。（下線は本件補正により補正された箇所を示す。また、記号Ａ～Ｄ５Ｇ３は分説するために審判合議体が付したものであり、請求項１の記載を、記号Ａ～Ｄ５Ｇ３を用いて、以下、「構成Ａ」～「構成Ｄ５Ｇ３」等と称する。） 【請求項１】 Ａ 端末がＮ（前記Ｎは２以上の正整数）種の人声が混合している分離対象の混合音声信号から混合音声特徴を抽出するステップと、 Ｂ 前記端末が敵対的生成ネットワークモデルを用いて前記混合音声特徴についてマスク係数抽出を行い、Ｎ種の人声に対応するマスクマトリックスを得るステップと、 Ｃ 前記端末が前記敵対的生成ネットワークモデルを用いて前記Ｎ種の人声に対応するマスクマトリックス及び前記混合音声信号について音声分離を行い、前記Ｎ種の人声に対応するＮ種の分離音声信号を出力するステップと、 Ｄ を含む、複数人の音声を分離する方法であって、 Ｂ１ 前記敵対的生成ネットワークモデルは、生成ネットワークモデル及び判別ネットワークモデルを含み、 Ｄ 前記複数人の音声を分離する方法は、 Ｄ１ 前記端末が分離対象の混合音声信号から混合音声特徴を抽出する前に、前記端末がサンプルデータベースから混合音声サンプル及びクリーン音声サンプルを取得するステップと、 Ｄ２ 前記端末が前記混合音声サンプルから混合音声サンプル特徴を抽出するステップと、 Ｄ３ 前記端末が前記生成ネットワークモデルにより前記混合音声サンプル特徴についてマスク係数抽出を行い、Ｎ種の人声に対応するサンプルマスクマトリックスを得るステップと、 Ｄ４ 前記端末が前記生成ネットワークモデルを用いて前記サンプルマスクマトリックス及び前記混合音声サンプルについて音声分離を行い、分離音声サンプルを出力するステップと、 Ｄ５ 前記端末が前記分離音声サンプル、前記混合音声サンプル及び前記クリーン音声サンプルを入力として用いて前記生成ネットワークモデル及び前記判別ネットワークモデルを交互にトレーニングするステップと、を含み、 Ｄ５ 前記端末が前記分離音声サンプル、前記混合音声サンプル及び前記クリーン音声サンプルを入力として用いて前記生成ネットワークモデル及び前記判別ネットワークモデルを交互にトレーニングするステップは、 Ｄ５Ｄ１ 前記端末が今回前記判別ネットワークモデルをトレーニングするとき、前記生成ネットワークモデルを固定するステップと、 Ｄ５Ｄ２ 前記端末が前記分離音声サンプル、前記混合音声サンプル及び前記クリーン音声サンプルを入力として用いて前記判別ネットワークモデルの損失関数を取得するステップと、 Ｄ５Ｄ３ 前記端末が前記判別ネットワークモデルの損失関数を最小化することにより、前記判別ネットワークモデルを最適化するステップと、 Ｄ５Ｇ１ 前記端末が次回前記生成ネットワークモデルをトレーニングするとき、前記判別ネットワークモデルを固定するステップと、 Ｄ５Ｇ２ 前記端末が前記分離音声サンプル、前記混合音声サンプル及び前記クリーン音声サンプルを入力として用いて前記生成ネットワークモデルの損失関数を取得するステップと、 Ｄ５Ｇ３ 前記端末が前記生成ネットワークモデルの損失関数を最小化することにより、前記生成ネットワークモデルを最適化するステップと、 Ｄ を含む、複数人の音声を分離する方法。 第３ 引用文献、引用発明及び引用文献記載の事項 １ 引用文献１ 原査定の拒絶の理由に引用された、引用文献１である、Guangcan Liu et al., Improving Speech Separation with Adversarial Network and Reinforcement Learning, 2018 International Joint Conference on Neural Networks, 2018年7月、pp.1-7には、以下の記載がある。（下線は強調のために当審で付した。以下同様。） （１）「II. RELATED WORK A. Speech Separation The goal of single-channel speech separation is to estimate the individual source signals in a linearly mixed signal. Let us use ni(t),i=1,2,…,k to denote the k source signals in the time domain. We denote the mixed signal as ［図：0001406296000001.jpg］ The corresponding short-time Fourier transformation (STFT) of these signals are yi(t,f) and ［図：0001406296000002.jpg］ for each time t and frequency f.Given the input information x(t,f),the goal of single-channel speech separation is to recover each source yi(t,f). In a typical setup, it is assumed that only STFT magnitude spectra is available. The phase information is ignored during the separation process and is used only when recovering the time domain waveforms of sources. It is well-known that better results can be achieved, instead of predicting |yi| directly, we can firstly predict the mask Mi(t,f) using a deep learning network. There are the constraints that Mi(t,f)≧0 and the sum is equal to 1 for all time-frequency bins (t,f) . This constraint can be easily satisfied with the softmax function. Note that since we first estimate masks, the model parameters can be optimized to minimize the mean square error (MSE) between the estimate mask and the ideal ratio mask (IRM). However, this approach comes with two problems. First, the mask is not well defined in silence segments. Second, what we really care about is the error between the estimated magnitude and the true magnitude of each source, while a smaller error on masks may not lead to a smaller error on magnitude. To overcome these limitations, recent works directly minimize the mean squared error (MSE): ［図：0001406296000003.jpg］ between the estimated magnitude and the true magnitude. The whole framework of speech separation based on deep learning is shown in Fig.1.」（第２頁左カラム第２６行から右カラム第２５行） （仮訳： II 関連研究 Ａ.話者分離 単一チャンネル話者分離の目的は、線形混合信号の中の個々の音源信号を推定することである。ここでは、ｎｉ（ｔ）,ｉ=１，２,．．．，ｋを用いて、時間領域におけるk個の音源信号を表すことにする。混合信号を ［図：0001406296000004.jpg］ で表す。 これらの信号の対応する短時間フーリエ変換（ＳＴＦＴ）は各時間ｔと周波数ｆについて、ｙｉ（ｔ，ｆ）と ［図：0001406296000005.jpg］ である。 入力情報ｘ（ｔ，ｆ）が与えられた場合、単一チャネル話者分離の目標は各音源ｙｉ（ｔ，ｆ）を復元することである。一般的なセットアップでは、短時間フーリエ変換による振幅スペクトルのみが利用可能であると仮定し、位相情報は分離プロセスでは無視され、音源の時間領域波形を復元するときにのみ使用される。 ｜ｙｉ｜を直接予測する代わりに、まず深層学習ネットワークを用いてマスクＭｉ（ｔ，ｆ）を予測することで、より良い結果が得られることはよく知られている。すべての時間周波数ビン（ｔ，ｆ）について、Ｍｉ（ｔ，ｆ）≧０かつ和が１に等しいという制約がある。この制約はソフトマックス関数で簡単に満たすことができる。 最初にマスクを推定するので、推定マスクと理想比率マスク（ＩＲＭ）の間の平均二乗誤差（ＭＳＥ）を最小化するようにモデルパラメータを最適化できる。しかし、このアプローチには２つの問題がある。第一に、無音区間ではマスクがうまく定義されない。第二に、我々が本当に気にするのは、各音源の推定マグニチュードと真のマグニチュードとの誤差であり、マスクの誤差が小さければマグニチュードの誤差が小さくなるとは限らない。これらの制限を克服するために、最近の研究では推定振幅と真の振幅の平均二乗誤差（ＭＳＥ）を直接最小化する： ［図：0001406296000006.jpg］ となる。深層学習による話者分離のフレームワーク全体を図１に示す。） （２）「B. Adversarial Network Goodfellow et al. [8] introduced generative adversarial network (GAN) as a new means to learn probability distributions for data. GAN consists of a generative model G and a discriminative model D. G and D are simultaneously trained in the competition described by a two-player minimax game: ［図：0001406296000007.jpg］ Here, the generator G attempts to produce a realistic data from a latent input variable z with a prior distribution pzto fool the discriminator D. On the other hand, the discriminator D is a typical binary classifier, and tries to distinguish whether its input data is from the training set or the generated set. To learn a generative model outputs of which satisfy the specific distribution pdata , GAN proposes to jointly learn a discriminative model D to provide loss gradients to the generative model. 」（第２頁右カラム第２６行から第４２行） （仮訳： Ｂ.敵対的ネットワーク Goodfellowら［８］は、データの確率分布を学習する新しい手段として、生成的敵対ネットワーク（ＧＡＮ）を導入した。ＧＡＮは生成モデルＧと識別モデルＤから構成され、ＧとＤは２人用のミニマックスゲームで記述される競争の中で同時に学習される： ［図：0001406296000008.jpg］ ここで、生成器Ｇは、事前分布ｐｚを持つ潜在入力変数zから現実的なデータを生成し、識別器Ｄを欺こうとする。一方、識別器Ｄは典型的な２値分類器であり、入力データが訓練集合からのものか生成集合からのものかを区別しようとする。特定の分布ｐｄａｔａを満たす生成モデルの出力を学習するために、ＧＡＮは、生成モデルに損失勾配を与える識別モデルＤを共同で学習することを提案する。） （３）「III. OUR METHOD Fig. 2 shows the framework of our proposed method. Then we give the detailed description of the framework. A. Adversarial Network for Speech Separation As it shown in the middle and right parts of Fig. 2, we propose to use a hybrid loss function that includes the reconstruction loss and an adversarial loss.The first is minimum mean squared error term that encourages the separation model to predict the right value at each time-frequency unit independently. This loss is standard in state-of-the-art speech separation models [18],[19]. We use s(xt) to denote two speakers' magnitude spectra that the separation model produces given the input feature vector xt. The second loss term is based on an auxiliary adversarial convolutional network. When the adversarial network can distinguish the output of the separation network from ground-truth spectra, this loss term is large. Since the adversarial convolutional network has a field-of-view that is either the entire input or a large portion of it, mismatches in the higher-order statistics can be penalized by the adversarial loss term. In addition, higher-order statistics are not accessible by the standard time-frequency unit loss function. High order consistency obtained by the entire input or a large portion of it is similar to the voiceprint of speaker. It is well-known that voiceprint is the basis for our attention to the target speaker from the mixed voice. We use d(xt,yt)∈[0,1] to denote the scalar probability with which the adversarial model predicts that yt is the ground-truth magnitude spectra, as opposed to being a spectral information produced by the separation model. We define the loss as follows: ［図：0001406296000009.jpg］ where θs and θd denote the parameters of the separation model and adversarial model respectively, λ is the weight for loss function. In the above, ［図：0001406296000010.jpg］ denotes the mean squared error for predictions. Meanwhile, we use ［図：0001406296000011.jpg］ ,the binary cross-entropy loss. We minimize the loss with respect to the parameters θs of the separation model, while maximizing it w.r.t. the parameters θd of the adversarial model.」（第３頁左カラム第３１行から右カラム第１８行） （仮訳： III 我々の方法 図２に提案手法のフレームワークを示す。次に、フレームワークの詳細を説明する。 Ａ 話者分離のための敵対的ネットワーク 図２中央と右に示すように、再構成損失と敵対的損失を含むハイブリッド損失関数を用いることを提案する。 最初の損失項は、分離モデルが各時間周波数単位で独立に正しい値を予測することを促す最小平均二乗誤差項である。この損失は最新の話者分離モデル［１８］，［１９］では標準的なものである。ｓ（ｘｔ)は、入力特徴ベクトルｘｔが与えられたときに分離モデルが生成する２話者の振幅スペクトルを表す。 第２の損失項は、補助的な敵対的畳み込みネットワークに基づく。敵対的なネットワークが分離ネットワークの出力を正解のスペクトルと区別できる場合、この損失項は大きくなる。敵対的畳み込みネットワークは、入力全体またはその大部分を視野として持つため、高次統計量のミスマッチは敵対的な損失項によってペナルティを与えられる。さらに、高次統計量は標準的な時間周波数単位損失関数ではアクセスできない。入力全体またはその大部分によって得られる高次一貫性は、話者の声紋に似ている。声紋が、混合音声から対象話者への注意の基礎となることはよく知られている。ｄ（ｘｔ，ｙｔ）∈［０，１］を用いて、ｙｔが分離モデルによって生成されたスペクトル情報ではなく、正解の振幅スペクトルであると敵対的モデルが予測するスカラー確率を表す。 損失を以下のように定義する： ［図：0001406296000012.jpg］ ここで、θsとθdはそれぞれ分離モデルと敵対的モデルのパラメータを表し、λは損失関数の重みである。 上記で ［図：0001406296000013.jpg］ は平均二乗予測誤差を示すものである。一方、二値化交差エントロピー損失 ［図：0001406296000014.jpg］ を用いる。分離モデルのパラメータθsに関しては損失を最小化し、敵対的モデルのパラメータθdに関しては損失を最大化する。) （４）「Training the adversarial model. Since only the second term depends on the adversarial model, training the adversarial model is equivalent to minimizing the following binary classification loss: ［図：0001406296000015.jpg］ Training the separation model. When given the adversarial network, the goal of the separation model is to minimize the mean squared error, while trying to confuse the adversarial model as much as possible. This encourages the separation model to produce separated results that are hard to be distinguished by adversarial network. The terms of the objective function Eq. (6) relevant to the segmentation model are ［図：0001406296000016.jpg］ In practice, we replace the term -λｌbce(d(xt,s(xt)),0) with +λｌbce(d(xt,s(xt)),1) when updating in separation model. In addition to this, we also use other training techniques. In according to [20] , we introduce batch normalization in separation network and adversarial network, and use rectified linear units (Relus) as the activation function. The rationale for this modified update is that it leads to a stronger gradient signal when the adversarial network makes accurate predictions on synthetic/ground-truth spectral information.」（第３頁右カラム第１９行から第４０行） （仮訳： 敵対的モデルの訓練 第２項のみが敵対的モデルに依存するので、敵対的モデルの訓練は、以下の２値分類損失を最小化することと等価である： ［図：0001406296000017.jpg］ 分離モデルの訓練 敵対的ネットワークが与えられたとき、分離モデルの目標は、敵対的モデルをできるだけ混乱させながら、平均二乗誤差を最小化することである。これにより分離モデルは、敵対的ネットワークによって区別されにくい分離結果を生成するようになる。目的関数式（６）のうち分離モデルに関連している項は次のとおりである。 ［図：0001406296000018.jpg］ 実際には、分離モデルを更新する時に、－λｌｂｃｅ（ｄ（ｘｔ，ｓ（ｘｔ）），０）の項を+λｌｂｃｅ（ｄ（ｘｔ，ｓ（ｘｔ）)，１)に置き換える。これに加えて、他の学習手法も用いる。［２０］に従い、分離ネットワークと敵対的ネットワークにバッチ正規化を導入し、活性化関数として正規化線形ユニット(Ｒｅｌｕｓ)を用いる。この修正された更新の根拠は、敵対的ネットワークが合成／正解のスペクトル情報に対して正確な予測を行う際に、より強い勾配信号を導くためである。） （５）第２頁左カラム上部にはFigure 1及びその説明として以下の記載がある。 ［図：0001406296000019.jpg］ Figure 1. The whole framework of speech separation based on deep learning. Mul(t,f) denotes the operation, x(t,f)×M(t,f). （仮訳： 図１．深層学習をベースにした話者分離の全体的枠組み。 Ｍｕｌ（ｔ，ｆ）はｘ（ｔ，ｆ）×Ｍ（ｔ，ｆ）を示す。） （６）第４頁上部にはFigure 2及びその説明として以下の記載がある。 ［図：0001406296000020.jpg］ Figure 2. The architecture of our proposed approach. Left: Q network, right: adversarial network, middle: separation network.Sep denotes separation network. Sep+A denotes speech separation network with adversarial network. Sep+Q denotes speech separation network with Q network. Sep+A+Q denotes speech separation network with adversarial network and Q network.In addition, it denotes the t-th frame of magnitude spectra of mixed speech, where the input spectral information xt= [it-c, ..., it, ..., it+c]. （仮訳： 図２. 提案するアプローチのアーキテクチャ 左：Ｑネットワーク、右：敵対的ネットワーク、中央：分離ネットワーク。Ｓｅｐは分離ネットワークを表す。Ｓｅｐ＋Ａは敵対的ネットワークを含む話者分離ネットワークを表す。Ｓｅｐ＋ＱはＱネットワークを用いた話者分離ネットワークを表す。Ｓｅｐ＋Ａ＋Ｑは、敵対的ネットワークとＱネットワークによる話者分離ネットワークを表す。また、入力スペクトル情報xt=[it-c, ..., it, ..., it+c]は、混合音声の大きさスペクトルのt番目のフレームを表す。） ２ 引用文献２ 同じく原査定の拒絶の理由に周知技術として引用された、引用文献２である、俵直弘ほか，非線形ひずみ除去のための敵対的denoising autoencoder，情報処理学会研究報告，2018年07月，Vol.2018-SLP-123, No.1，pp.1-7には、以下の記載がある。 「２．敵対的生成ネットワークによる音声強調 学習時には以下に示す敵対的学習の枠組みにより生成器と識別器を交互に最適化する．まず識別器Ｄのパラメタを固定した上で，生成器Ｇについて以下の目的関数を最小化するようにパラメタを更新することで，生成器の損失が減少するとともに識別器の損失が増大するように生成器を最適化する． ・・・ 次に，生成器Ｇのパラメタを固定した上で，識別器Ｄについて以下の目的関数を最小化するようにパラメタを更新することで，識別器の平均二乗損失が小さくなるように識別器を最適化する． ・・・ 以上の生成器と識別器の最適化をミニバッチ単位で交互に行うことで生成器と識別器は互いに騙すように学習され，最終的に生成器はクリーン信号と区別できない高い品質の強調音声を生成することが可能となる．」（第３頁左カラム第１２行から第１９行、同第２５行から第３１行、同第３５行から第３９行） ３ 引用発明及び引用文献記載事項の認定 ３－１ 引用発明の認定 （１）上記１（１）の下線部から、引用文献１には、 個々の音源信号ｎｉ（ｔ），ｉ＝１，２，．．．，ｋを用いて、ｋ個の音源信号を表すことにし、混合信号を ［図：0001406296000021.jpg］ で表すことにし、これらの個々の音源信号に対応する短時間フーリエ変換は、各時間ｔと周波数ｆについて、ｙｉ（ｔ，ｆ）と、 ［図：0001406296000022.jpg］ であること、 すなわち、個々の音源信号に対する混合信号の短時間フーリエ変換がｘ（ｔ，ｆ）であることがいえ、 この入力情報ｘ（ｔ，ｆ）が与えられたときに各音源に関する短時間フーリエ変換ｙｉ（ｔ，ｆ）を復元することを目標とし、 深層学習ネットワークを用いてマスクＭｉ（ｔ，ｆ）を予測し、推定振幅と真の振幅の平均二乗誤差 ［図：0001406296000023.jpg］ を最小化するものであって、深層学習による話者分離のフレームワークが図１に示されていること、 が記載されているといえる。 そして、当該記載内容と上記１（５）のFigure 1及びその説明の記載を総合すると、引用文献１には、 個々の音源信号ｎｉ（ｔ），ｉ＝１，２，．．．，ｋを用いて、ｋ個の音源信号を表すことにし、混合信号を ［図：0001406296000024.jpg］ で表すことにした場合、個々の音源信号に対する混合信号の短時間フーリエ変換ｘ（ｔ，ｆ）が入力情報として与えられたときに各音源に関する短時間フーリエ変換ｙｉ（ｔ，ｆ）を復元することを目標とし、これをＩＳＴＦＴ（逆短時間フーリエ変換）することで各音源信号を得るものであり、 各音源の真の振幅ｙ（ｔ，ｆ）と推定振幅であるＭｕｌ（ｔ，ｆ）＝ｘ（ｔ，ｆ）×Ｍ（ｔ，ｆ）に対して、両者の平均二乗誤差 ［図：0001406296000025.jpg］ を最小化するような各音源に対するマスクＭｉ（ｔ，ｆ）を、深層学習ネットワークであるＲＮＮ／ＣＮＮを用いて予測する、 深層学習による話者分離のフレームワーク が記載されているといえる。 （２）上記１（２）の下線部から、 生成モデルＧと識別モデルＤから構成される生成的敵対ネットワークについて、生成器Ｇは識別器Ｄを欺こうとするものであり、識別器Ｄは入力データが訓練集合からのものか生成集合からのものかを区別しようとすること、 がいえる。 （３）上記１（３）の下線部の記載、及び上記１（６）のFigure 2及びその説明の記載から、 図２中央と右に示す、分離ネットワーク及び敵対的ネットワークからなり、敵対的ネットワークを含む話者分離ネットワーク（Ｓｅｐ＋Ａ）において、混合音声の入力スペクトル情報ｘｔに対して、 再構成損失と敵対的損失を含むハイブリッド損失関数を以下のように定義すること： ［図：0001406296000026.jpg］ ただし、ｓ（ｘｔ)は、入力特徴ベクトルｘｔが与えられたときに分離モデルが生成する振幅スペクトルを表し、θsとθdはそれぞれ分離モデルと敵対的モデルのパラメータを表し、λは損失関数の重みであって、 ［図：0001406296000027.jpg］ は平均二乗予測誤差を示すものであり、 二値化交差エントロピー損失 ［図：0001406296000028.jpg］ は、分離モデルのパラメータθsに関しては損失を最小化し、敵対的モデルのパラメータθdに関しては損失を最大化するものであり、 最初の損失項は、分離モデルが各時間周波数単位で独立に正しい値を予測することを促す最小平均二乗誤差項であり、 第２の損失項は、敵対的なネットワークが分離ネットワークの出力を正解のスペクトルと区別できる場合大きくなるような値であって、ｄ（ｘｔ，ｙｔ）∈［０，１］を用いて、ｙｔが分離モデルによって生成されたスペクトル情報ではなく、正解の振幅スペクトルであると敵対的モデルが予測する確率を表すこと、 が記載されているといえる。 さらに、上記１（６）の図２から、 分離ネットワークでは、ｘｔを入力としてＤＮＮ／ＣＮＮを介して分離結果であるｓ（ｘｔ）を生成し、 敵対的ネットワークでは、ｘｔを入力としてＤＮＮ／ＣＮＮを介したものと、分離結果ｓ（ｘｔ）または正解ｙｔの何れかを入力として、ＤＮＮ／ＣＮＮを介したものを入力として、ＤＮＮ／ＣＮＮを介して真または偽のいずれかを出力すること、 が見てとれる。 （４）上記１（３）を踏まえた上記１（４）から、 敵対的モデルの訓練では、 ［図：0001406296000029.jpg］ のうち、第２項のみが敵対的モデルに依存するので、敵対的モデルの訓練は、 ［図：0001406296000030.jpg］ を最小化することと等価であり、 分離モデルの訓練では、 敵対的ネットワークが与えられたとき、分離モデルの目標は、敵対的モデルをできるだけ混乱させながら、平均二乗誤差を最小化することであって、これにより分離モデルは、敵対的ネットワークによって区別されにくい分離結果を生成するようになり、 目的関数式（６）のうち分離モデルに関連している項 ［図：0001406296000031.jpg］ のうち、－λｌｂｃｅ（ｄ（ｘｔ，ｓ（ｘｔ）），０）の項を＋λｌｂｃｅ（ｄ（ｘｔ，ｓ（ｘｔ）)，１)に置き換えたものを最小化すること、 が記載されているといえる。 （５）以上の記載によれば、引用文献１には以下の発明（以下、「引用発明」という。）が記載されているものと認められる。（符号ａ～ｅ１は合議体が付した。以下、「構成ａ」～「構成ｅ１」等という。） （引用発明） ａ 深層学習による話者分離のフレームワークであって、 ａ１ 個々の音源信号ｎｉ（ｔ），ｉ＝１，２，．．．，ｋを用いて、ｋ個の音源信号を表すことにし、混合信号を ［図：0001406296000032.jpg］ で表すことにした場合、個々の音源信号に対する混合信号の短時間フーリエ変換ｘ（ｔ，ｆ）が入力情報として与えられたときに、 ａ２ 各音源に関する短時間フーリエ変換ｙｉ（ｔ，ｆ）を復元することを目標とし、これをＩＳＴＦＴ（逆短時間フーリエ変換）することで各音源信号を得るものであり、 ａ３ 各音源の真の振幅ｙ（ｔ，ｆ）と推定振幅であるＭｕｌ（ｔ，ｆ）＝ｘ（ｔ，ｆ）×Ｍ（ｔ，ｆ）に対して、両者の平均二乗誤差 ［図：0001406296000033.jpg］ を最小化するような各音源に対するマスクＭｉ（ｔ，ｆ）を、深層学習ネットワークであるＲＮＮ／ＣＮＮを用いて予測する、 ａ 深層学習による話者分離のフレームワークであって、 ｂ 生成モデルＧと識別モデルＤから構成される生成的敵対ネットワークについて、生成器Ｇは識別器Ｄを欺こうとするものであり、識別器Ｄは入力データが訓練集合からのものか生成集合からのものかを区別しようとすることに関して、 ｃ 分離ネットワーク及び敵対的ネットワークからなり、敵対的ネットワークを含む話者分離ネットワーク（Ｓｅｐ＋Ａ）において、 ｃ１ 分離ネットワークでは、ｘｔを入力としてＤＮＮ／ＣＮＮを介して分離結果であるｓ（ｘｔ）を生成し、 ｃ２ 敵対的ネットワークでは、ｘｔを入力としてＤＮＮ／ＣＮＮを介したものと、分離結果ｓ（ｘｔ）または正解ｙｔの何れかを入力として、ＤＮＮ／ＣＮＮを介したものを入力として、ＤＮＮ／ＣＮＮを介して真または偽のいずれかを出力するものであり、 ｃ３ 混合音声の入力スペクトル情報ｘｔに対して、再構成損失と敵対的損失を含むハイブリッド損失関数を以下のように定義すること： ［図：0001406296000034.jpg］ ただし、 ｓ（ｘｔ)は、入力特徴ベクトルｘｔが与えられたときに分離モデルが生成する振幅スペクトルを表し、 θsとθdはそれぞれ分離モデルと敵対的モデルのパラメータを表し、 λは損失関数の重みであって、 ｃ４ ［図：0001406296000035.jpg］ は平均二乗予測誤差を示すものであり、 ｃ５ 二値化交差エントロピー損失 ［図：0001406296000036.jpg］ は、分離モデルのパラメータθsに関しては損失を最小化し、敵対的モデルのパラメータθdに関しては損失を最大化するものであり、 ｃ６ 最初の損失項は、分離モデルが各時間周波数単位で独立に正しい値を予測することを促す最小平均二乗誤差項であり、 ｃ７ 第２の損失項は、敵対的なネットワークが分離ネットワークの出力を正解のスペクトルと区別できる場合大きくなるような値であって、ｄ（ｘｔ，ｙｔ）∈［０，１］を用いて、ｙｔが分離モデルによって生成されたスペクトル情報ではなく、正解の振幅スペクトルであると敵対的モデルが予測する確率を表すものであり、 ｄ 敵対的モデルの訓練では、 ［図：0001406296000037.jpg］ のうち、第２項のみが敵対的モデルに依存するので、敵対的モデルの訓練は、 ［図：0001406296000038.jpg］ を最小化することと等価であり、 ｅ 分離モデルの訓練では、 敵対的ネットワークが与えられたとき、目的関数式（６）のうち分離モデルに関連している項 ［図：0001406296000039.jpg］ の－λｌｂｃｅ（ｄ（ｘｔ，ｓ（ｘｔ）），０）の項を＋λｌｂｃｅ（ｄ（ｘｔ，ｓ（ｘｔ）)，１)に置き換えたものを最小化することであり、 ｅ１ 分離モデルの目標は、敵対的ネットワークをできるだけ混乱させながら、平均二乗誤差を最小化することであって、これにより分離モデルは、敵対的ネットワークによって区別されにくい分離結果を生成するようになること。 ３－２ 引用文献２記載の事項の認定 上記引用文献２の下線部の記載から、 「敵対的生成ネットワークによる音声強調に関して、学習時には敵対的学習の枠組みにより生成器と識別器を交互に最適化するものであって、識別器Ｄのパラメタを固定した上で、生成器Ｇについて目的関数を最小化するようにパラメタを更新することで、生成器の損失が減少するとともに識別器の損失が増大するように生成器を最適化し、次に、生成器Ｇのパラメタを固定した上で、識別器Ｄについて目的関数を最小化するようにパラメタを更新することで、識別器を最適化し、生成器と識別器の最適化をミニバッチ単位で交互に行うことで生成器と識別器は互いに騙すように学習され、最終的に生成器はクリーン信号と区別できない高い品質の強調音声を生成すること」（以下、「引用文献２記載の事項」という）がいえる。 第４ 本件発明と引用発明との対比、及び相違点に対する判断 １ 本件発明と上記引用発明とを対比する。 （１）構成Ａについて 構成ａ、ａ１、ａ３から、引用発明は話者分離を行うものについて、ｋ（明らかにｋは２以上の整数である）個の話者の混合音源信号（すなわち、混合音声信号）に対して短時間フーリエ変換を作用させることで振幅を得るものである。 ここで、この振幅は混合音声信号に対する特徴ということができるから、構成Ａの「Ｎ（前記Ｎは２以上の正整数）種の人声が混合している分離対象の混合音声信号から混合音声特徴を抽出するステップ」を行うものといえる。 ただし、引用発明は端末によって処理を行うかどうか特定されていない点で本件発明と相違する。 （２）構成Ｂ、Ｂ１、Ｃ、Ｄについて （２－１）構成ｃの分離ネットワーク及び敵対的ネットワークからなる話者分離ネットワーク（Ｓｅｐ＋Ａ）について、 構成ｃ２から、敵対的ネットワークは、分離ネットワークの分離結果または正解の何れかを入力として、真または偽のいずれかを出力するものであること、 構成ｃ１、ｅ１から、分離ネットワークないし分離モデルは上記（１）の混合音声信号に対する特徴である振幅スペクトルを入力として、分離結果を生成するものであって、敵対的ネットワークをできるだけ混乱させながら、敵対的ネットワークによって区別されにくい分離結果を生成するようになるものであること、 がいえる。 そうすると、このような敵対的ネットワークと、分離ネットワークないし分離モデルの関係は、それぞれ、構成ｂにおける生成的敵対ネットワークにおける、（正解にあたる）訓練集合のものか、（生成器によって生成された）生成集合のものかを区別しようとする識別器Ｄと、識別器Ｄを欺こうとする（換言すれば、識別器では区別されにくいようにする）生成器Ｇとの関係に他ならない。 すなわち、構成ｃ、ｃ１、ｃ２における「分離ネットワーク」及び「敵対的ネットワーク」は、それぞれ、生成的敵対ネットワークにおける生成器及び識別器に相当するといえる。 （２－２）次に、構成ａ１、ａ３から、引用発明は、混合音声信号に対して短時間フーリエ変換を作用させた結果得られる振幅すなわち混合音声信号の特徴ｘ（ｔ，ｆ）を入力として、各音源に対するマスクＭｉ（ｔ，ｆ）を、深層学習ネットワークを作用させることで予測するものであることがいえ、マスクＭｉは少なくとも１つの係数を有することは明らかである。 ここで、（２－１）を踏まえると、引用発明は、当該深層学習ネットワークを、生成器及び識別器からなる生成的敵対ネットワーク、すなわち、構成Ｂ、Ｂ１の生成ネットワークモデル及び判別ネットワークモデルを含む、敵対的生成ネットワークにより構成することがいえる。 そうすると、引用発明の上記（２－１）及び構成ａ１を踏まえた上記構成ａ３は、構成Ｂ、Ｂ１と「敵対的生成ネットワークを用いて前記混合音声特徴についてマスク係数抽出を行い、Ｎ種の人声に対応するマスク」「を得るステップ」を行う点で共通するといえる。 一方、上記（１）において示した相違点、すなわち本件発明は端末によって処理を行うのに対して、引用発明は端末によって処理を行うかどうか特定されていない点に加えて、 上記構成ａ３はマスクＭｉを得るものの、これがマトリクス（行列）であるかどうかは不明な点で構成Ｂ、Ｂ１と相違する。 （２－３）また、引用発明の上記（２－１）及び構成ａ１、ａ３を踏まえた構成ａ２は、構成Ｃと「敵対的生成ネットワークモデルを用いてＮ種の人声に対応するマスク」「及び混合音声信号について音声分離を行い、Ｎ種の人声に対応するＮ種の分離音声信号を出力するステップ」を行う点で共通するといえる。 一方、構成Ｃと上記（２－１）及び構成ａ１、ａ３を踏まえた構成ａ２とは、上記（２－２）において示した点で相違するといえる。 （２－４）さらに、引用発明の構成ａ１、ａ２、ａ３を踏まえた構成ａの「話者分離のフレームワーク」は、構成Ｄの「前記複数の人の音声を分離する方法」を実行するためのものであるといえる。 （３）構成Ｄ１からＤ５について （３－１）引用発明の構成ａ３から、引用発明は真の振幅ｙ（ｔ，ｆ）と推定振幅であるＭｕｌ（ｔ，ｆ）＝ｘ（ｔ，ｆ）×Ｍ（ｔ，ｆ）に対して ［図：0001406296000040.jpg］ を最小化するような、各音源に対するマスクＭｉ（ｔ，ｆ）を、深層学習ネットワークであるＲＮＮ／ＣＮＮを用いて予測するものである。 ところで、このようなマスクＭｉを予測により得るための深層学習ネットワークＲＮＮ／ＣＮＮを用いるにあたり、この深層学習ネットワークを事前に訓練する必要があることは当然であり、この訓練のためには、事前に真の振幅ｙ（ｔ，ｆ）と推定振幅ｘ（ｔ，ｆ）の元となる、構成ａ１の「個々の音源信号」と「個々の音源信号に対する混合信号」を得る必要があることがいえる。 そして、事前にこれらの信号を得ることは、構成Ｄ１、Ｄ２の「分離対象の混合音声信号から混合音声特徴を抽出する前に」「混合音声サンプル及びクリーン音声サンプルを取得するステップ」を行うことと共通する。 一方、上記（１）において示した相違点、すなわち本件発明は端末によって処理を行うのに対して、引用発明は端末によって処理を行うかどうか特定されていない点に加えて、 混合音声サンプル及びクリーン音声サンプルを取得することについて、本件発明は、サンプルデータベースから取得するのに対して、引用発明はこれらのサンプルを取得する取得先について特定されていない点で相違する。 （３－２）引用発明において、（３－１）に示した、深層学習ネットワークを事前に訓練するための、推定振幅の元となる個々の音源信号に対する混合信号を取り出した後、この混合信号に対する短時間フーリエ変換ｘ（ｔ，ｆ）を入力情報として与えられて、深層学習ネットワークの訓練を行う場合を考える。 このとき、上記（２－２）、（２－３）で示したのと同様に、引用発明の訓練実施中の深層学習ネットワークにより予測された構成ａ３は、構成Ｄ３の「前記混合音声サンプル特徴についてマスク係数抽出を行い、Ｎ種の人声に対応するマスク」「を得るステップ」を行うものであり、構成ａ３を踏まえた構成ａ２は、構成Ｄ４の「前記サンプルマスク及び混合音声サンプルについて音声分離を行い、分離音声サンプルを出力するステップ」を行うものである。 さらに、引用発明は、構成ｃ３を踏まえた構成ｃ１にあるように、分離ネットワークが混合音声の入力スペクトル情報ｘｔを入力として分離結果ｓ（ｘｔ）を生成するところ、上記（２－１）に示したように、この分離ネットワークは生成的敵対ネットワークにおける生成器に相当する。 そうすると、構成ａ３や構成ａ３を踏まえた構成ａ２において行われる処理は、生成的敵対ネットワークにおける生成器を用いて行うといえるが、これは、構成Ｄ３、Ｄ４が「前記生成ネットワークモデルを用いて」処理を行うことに相当する。 一方、構成Ｄ３、Ｄ４と、構成ａ３や構成ａ３を踏まえた構成ａ２において行われる処理は、上記（２－２）、（２－３）において示した点において相違する。 （３－３）訓練実施中の引用発明における話者分離ネットワークは、構成ｃ、ｃ１、ｃ２にあるように、混合音声の入力スペクトル情報ｘｔ、分離結果ｓ（ｘｔ）、正解ｙｔを入力として訓練されることから、構成Ｄ５と「前記分離音声サンプル、前記混合音声サンプル及び前記クリーン音声サンプルを入力として用いて前記生成ネットワークモデル及び前記判別ネットワークモデルを」「トレーニングするステップ」を行う点で共通する。 一方、上記（１）において示した相違点、すなわち本件発明は端末によって処理を行うのに対して、引用発明は端末によって処理を行うかどうか特定されていない点に加えて、 本件発明は生成ネットワークモデルと判別ネットワークモデルを交互にトレーニングするのに対して、引用発明は分離ネットワークと敵対的ネットワークを交互にトレーニングするのかどうか特定されていない点で相違する。 （４）構成Ｄ５Ｄ１から構成Ｄ５Ｄ３について 引用発明は構成ｃ３、ｃ５、ｃ７を踏まえた構成ｄにあるように、敵対的モデルの訓練では、混合音声の入力スペクトル情報ｘｔ、ｘｔが与えられたときに分離モデルが生成する振幅スペクトルｓ（ｘｔ）、正解ｙｔを入力とした二項化交差エントロピー ［図：0001406296000041.jpg］ を最小化するものであって、当該二項化交差エントロピーからなる式が敵対的モデルにおける損失関数ということができるから、本件発明の構成Ｄ５Ｄ２、Ｄ５Ｄ３同様に、「前記分離音声サンプル、前記混合音声サンプル及び前記クリーン音声サンプルを入力として用いて前記判別ネットワークモデルの損失関数を取得するステップ」と、「前記判別ネットワークモデルの損失関数を最小化することにより、前記判別ネットワークモデルを最適化するステップ」を行うものといえる。 一方、上記（１）において示した相違点、すなわち本件発明は端末によって処理を行うのに対して、引用発明は端末によって処理を行うかどうか特定されていない点に加えて、 本件発明は判別ネットワークモデルをトレーニングするとき、生成ネットワークモデルを固定するのに対して、引用発明は敵対的モデルを訓練するとき、分離ネットワークないし分離モデルを固定するのかどうか特定されていない点で相違する。 （５）構成Ｄ５Ｇ１から構成Ｄ５Ｇ３について 引用発明は、構成ｃ３、ｃ４、ｃ５、ｃ７を踏まえた構成ｅにあるように、 分離モデルの訓練では、混合音声の入力スペクトル情報ｘｔ、ｘｔが与えられたときに分離モデルが生成する振幅スペクトルｓ（ｘｔ）、正解ｙｔを入力とした、二項化交差エントロピー及び平均二乗予測誤差からなる、 目的関数式（６） ［図：0001406296000042.jpg］ のうちの分離モデルに関連している項 ［図：0001406296000043.jpg］ の－λｌｂｃｅ（ｄ（ｘｔ，ｓ（ｘｔ）），０）の項を＋λｌｂｃｅ（ｄ（ｘｔ，ｓ（ｘｔ）)，１)に置き換えたものを最小化するものであって、この置き換えを行った上記の項は分離モデルにおける損失関数ということができるから、上記の本件発明の構成Ｄ５Ｇ２、Ｄ５Ｇ３同様に、「前記分離音声サンプル、前記混合音声サンプル及び前記クリーン音声サンプルを入力として用いて前記生成ネットワークモデルの損失関数を取得するステップ」、「前記生成ネットワークモデルの損失関数を最小化することにより、前記生成ネットワークモデルを最適化するステップ」を行うものといえる。 一方、上記（１）において示した相違点、すなわち本件発明は端末によって処理を行うのに対して、引用発明は端末によって処理を行うかどうか特定されていない点に加えて、 本件発明は生成ネットワークモデルをトレーニングするとき、判別ネットワークモデルを固定するのに対して、引用発明は分離モデルを訓練するとき、敵対的ネットワークないし敵対的モデルを固定するのかどうか特定されていない点で相違する。 （６）以上（１）～（５）を踏まえて、本件発明と引用発明とを対比すると、両者の一致点、相違点は以下のとおりである。 （一致点） Ａ’ Ｎ（前記Ｎは２以上の正整数）種の人声が混合している分離対象の混合音声信号から混合音声特徴を抽出するステップと、 Ｂ’ 敵対的生成ネットワークモデルを用いて前記混合音声特徴についてマスク係数抽出を行い、Ｎ種の人声に対応するマスクを得るステップと、 Ｃ’ 前記敵対的生成ネットワークモデルを用いて前記Ｎ種の人声に対応するマスク及び前記混合音声信号について音声分離を行い、前記Ｎ種の人声に対応するＮ種の分離音声信号を出力するステップと、 Ｄ を含む、複数人の音声を分離する方法であって、 Ｂ１ 前記敵対的生成ネットワークモデルは、生成ネットワークモデル及び判別ネットワークモデルを含み、 Ｄ 前記複数人の音声を分離する方法は、 Ｄ１’ 分離対象の混合音声信号から混合音声特徴を抽出する前に、混合音声サンプル及びクリーン音声サンプルを取得するステップと、 Ｄ２’ 前記混合音声サンプルから混合音声サンプル特徴を抽出するステップと、 Ｄ３’ 前記生成ネットワークモデルにより前記混合音声サンプル特徴についてマスク係数抽出を行い、Ｎ種の人声に対応するサンプルマスクを得るステップと、 Ｄ４’ 前記生成ネットワークモデルを用いて前記サンプルマスク及び前記混合音声サンプルについて音声分離を行い、分離音声サンプルを出力するステップと、 Ｄ５’ 前記分離音声サンプル、前記混合音声サンプル及び前記クリーン音声サンプルを入力として用いて前記生成ネットワークモデル及び前記判別ネットワークモデルをトレーニングするステップと、を含み、 （Ｄ５’） 前記分離音声サンプル、前記混合音声サンプル及び前記クリーン音声サンプルを入力として用いて前記生成ネットワークモデル及び前記判別ネットワークモデルをトレーニングするステップは、 Ｄ５Ｄ２’ 前記分離音声サンプル、前記混合音声サンプル及び前記クリーン音声サンプルを入力として用いて前記判別ネットワークモデルの損失関数を取得するステップと、 Ｄ５Ｄ３’ 前記判別ネットワークモデルの損失関数を最小化することにより、前記判別ネットワークモデルを最適化するステップと、 Ｄ５Ｇ２’ 前記分離音声サンプル、前記混合音声サンプル及び前記クリーン音声サンプルを入力として用いて前記生成ネットワークモデルの損失関数を取得するステップと、 Ｄ５Ｇ３’ 前記生成ネットワークモデルの損失関数を最小化することにより、前記生成ネットワークモデルを最適化するステップと、 Ｄ を含む、複数人の音声を分離する方法。 （相違点１） 本件発明は端末が処理を行うのに対して、引用発明は端末が処理を行うことが特定されていない点。 （相違点２） Ｎ種の人声に対する（サンプル）マスクについて、本件発明はマスクマトリクスとして構成されるのに対して、引用発明ではマスクマトリクスとして構成されていることが特定されていない点。 （相違点３） 混合音声サンプル及びクリーン音声サンプルを取得するにあたって、本件発明はサンプルデータベースからこれらのサンプルを取得するのに対して、引用発明はこれらのサンプルをどこから取得するのか特定されていない点。 （相違点４） 本件発明は生成ネットワークモデル及び判別ネットワークモデルを交互にトレーニングするものであり、一方をトレーニングするときは他方を固定するのに対して、引用発明は分離モデル及び敵対的モデルを訓練するときに交互に訓練するか、一方を訓練するときに他方を固定するかどうかについて特定されていない点。 ２ 相違点に対する判断 上記相違点について検討する。 （１）相違点１について、引用発明における話者分離処理を行う装置としては任意の構成が考慮しうるものであり、この装置を端末に特定することは当業者が適宜選択し得る設計的選択事項にすぎない。 （２）相違点２について、複数の音源が発生した音響信号から所定の音源の音響を抽出するためのマスクとして分離行列があることは複数音源から所定の音源を分離する技術における周知慣用技術（例えば、特開２０１４－２１５５４４号公報の【００１２】の「信号供給装置１２は、空間的な位置（収音点に対する方向）または音響の音響特性が相違し得る複数の音源が発生した音響の混合音の波形を表す時間領域の音響信号ＳAを音響処理装置１００に供給する。音響信号ＳAは、Ｊ個（Ｊは２以上の自然数）のチャネルの音響信号ＳA[1]～ＳA[J]で構成されるマルチチャネル信号である。音響信号ＳAが表す音響の複数の音源のうち空間的な位置または音響特性が既知である音源を以下では第１音源と表記し、第１音源以外の音源を以下では第２音源と表記する。」という記載を踏まえた【００１８】の「図１の行列生成部３４は、音響信号ＳAから第１音源の音響を抽出するためのマスクとして利用される分離行列Ｑを生成する。」という記載を参照。）にすぎず、引用発明のマスクを話者分離処理のために用いられる行列（マトリクス）として構成することは、当業者にとって格別の困難性を要するものではない。 （３）相違点３について、上記１（３－１）において示したように、引用発明において、事前に真の振幅ｙ（ｔ，ｆ）と推定振幅ｘ（ｔ，ｆ）の元となる、構成ａ１の「個々の音源信号」と「個々の音源信号に対する混合信号」を得る必要があることから、これらの信号を予めデータベース化しておき、このデータベースから取得する構成とすることは当業者にとって格別の創作力を要するものではない。 （４）相違点４について、引用発明における音源分離を行う敵対的生成ネットワークを訓練（学習）する方法として、敵対的生成ネットワークにおいて既に知られている学習方法であれば、どのような学習方法を適用するかは当業者が適宜選択し得る設計的選択事項にすぎないといえる。 ここで、引用文献２記載の事項として示されるように、「敵対的生成ネットワークによる音声強調に関して、学習時には敵対的学習の枠組みにより生成器と識別器を交互に最適化するものであって、識別器Ｄのパラメタを固定した上で，生成器Ｇについて目的関数を最小化するようにパラメタを更新することで，生成器の損失が減少するとともに識別器の損失が増大するように生成器を最適化し、次に、生成器Ｇのパラメタを固定した上で、識別器Ｄについて目的関数を最小化するようにパラメタを更新することで、識別器を最適化し、生成器と識別器の最適化をミニバッチ単位で交互に行うことで生成器と識別器は互いに騙すように学習され、最終的に生成器はクリーン信号と区別できない高い品質の強調音声を生成すること」は、敵対的生成ネットワークを用いた音声信号処理における生成器と識別器の最適化において既に知られた学習方法にすぎない。 そうすると、引用発明における音源分離を行う敵対的生成ネットワークにを訓練（学習)する方法として、引用文献２記載の事項のような、音声信号処理における敵対的生成ネットワークという同じ技術分野における上記の学習方法を適用することは当業者が適宜選択し得る設計的選択事項にすぎない。 そして、引用発明の構成ｄ、ｅの分離モデル及び敵対的モデルを訓練する技術に対して、引用文献２記載の事項のような学習方法を適用することで、分離モデル及び敵対的モデルを訓練する際には、これらモデルの訓練を交互に行うように構成し、かつ一方のモデルの訓練を行うときには他方を固定するように構成した発明は、本件発明の構成Ｄ５を踏まえた構成Ｄ５Ｄ１からＤ５Ｄ３のトレーニングするステップ及び構成Ｄ５Ｇ１からＤ５Ｇ３のトレーニングするステップを実行するものといえる。 （５）上記相違点１から４に対する上記（１）から（４）の判断を踏まえると、本件発明は、引用発明及び引用文献２記載の技術並びに周知慣用技術に基づいて当業者が容易に発明をすることができたものであり、特許法第２９条第２項の規定により、特許を受けることができない。 ３ 審判請求人の主張について 審判請求人は、審判請求書の「３．理由２（進歩性）について」の「（２）本願請求項に係る発明と引用文献の開示との対比」において、以下のとおり主張している。 「３．本願発明が特許されるべき理由 （中略） しかしながら、引用文献は、審査官殿のご認定のとおり、引用文献１には、生成ネットワークモデル及び判別ネットワークモデルを交互にトレーニングすることは全く記載されていません。引用文献１の発明は、音声分離を改善するにあたり、従来のディープラーニング技術に代えて、敵対的ネットワークと強化学習を組み合わせたものであって、その技術的思想は、本願発明の技術的思想とはまったく異なります。 また、引用文献２には、生成器と識別器を交互に最適化することが開示されているものの、識別器Dのパラメータを固定したうえで、生成器Gについて目的関数を最小化するようにパラメタを更新する際の目的関数は、ランダムノイズ、観測信号、クリーン信号を入力とします（第２章、第３頁第１２～２８行目）。引用文献２には、分離音声サンプル、混合音声サンプル及びクリーン音声サンプルを入力として用いることは、開示も示唆もされていません。 （中略） 引用文献１および２は、補正後の請求項１によって達成される上記の効果を達成できません。引用文献１に引用文献２の技術を適用する動機づけが存在せず、当業者は本願発明に容易に想到しうるものではありません。 従って、補正後の請求項１は引用文献１および２に対して進歩性を有します。」 また、審判請求人は、上申書の「（３）引用文献との対比」において、さらに以下のように主張している。 「今回の前置報告書において審査官が引用された引用文献１のIII-A節には、(8)式として、敵対的モデルのトレーニングの際に最小化されるバイナリ分類損失が開示され、(9)式として分離モデルのトレーニングについて、セグメンテーションモデルに関する目的関数（(6)式）の項が開示されています。 ここで、引用文献１のIII-A節の右欄第１６～１８行目には、「分離モデルのパラメータθsに対して損失を最小化し、一方、敵対的モデルのパラメータθdに対して損失を最大化する」ことが記載されています。すなわち、敵対的モデルのパラメータθdに対して損失を最小化することは、少なくとも引用文献１には開示されていません。 よって、たとえ引用文献１の「分離モデル」が本願発明の「生成ネットワークモデル」に相当し、引用文献１の「敵対的モデル」が本願発明の「判別ネットワークモデル」に相当するものであったとしても、「今回判別ネットワークモデルをトレーニングするとき、前記生成ネットワークモデルを固定するステップと、前記端末が前記分離音声サンプル、前記混合音声サンプル及び前記クリーン音声サンプルを入力として用いて前記判別ネットワークモデルの損失関数を取得するステップと、前記端末が前記判別ネットワークモデルの損失関数を最小化することにより、前記判別ネットワークモデルを最適化するステップ」、および、「次回前記生成ネットワークモデルをトレーニングするとき、前記判別ネットワークモデルを固定するステップと、前記端末が前記分離音声サンプル、前記混合音声サンプル及び前記クリーン音声サンプルを入力として用いて前記生成ネットワークモデルの損失関数を取得するステップと、前記端末が前記生成ネットワークモデルの損失関数を最小化することにより、前記生成ネットワークモデルを最適化するステップ」とは、引用文献１に開示も示唆もされていません。 上記主張について検討する。 （１）上記１（２－２）、（２－３）のとおり、引用発明は音声分離を行うにあたり生成的敵対ネットワーク（本件発明における「敵対的生成ネットワーク」）の考え方を導入する点で本件発明と共通する。 ここで、請求人による、「引用文献１の発明は、音声分離を改善するにあたり、従来のディープラーニング技術に代えて、敵対的ネットワークと強化学習を組み合わせたものであ」るという主張について、引用文献１には、引用発明の構成ｂ１の「分離ネットワーク及び敵対的ネットワークからなり、敵対的ネットワークを含む話者分離ネットワーク（Ｓｅｐ＋Ａ）」とは別個の実施形態として、Ｑネットワークを用いた話者分離ネットワーク（Ｓｅｐ＋Ｑ）や敵対的ネットワークとＱネットワークによる話者分離ネットワーク（Ｓｅｐ＋Ａ＋Ｑ）を示しているところ、これらは引用発明を特定する事項ではない。 したがって、上記請求人の主張は引用発明に関するものではなく、採用できない。 （２）上記１（３－１）のとおり、引用発明は混合音声信号に対して短時間フーリエ変換を作用させた結果得られる振幅スペクトルｘｔ、分離結果ｓ（ｘｔ）、正解ｙｔを入力として用いており、これらはそれぞれ分離音声サンプル、混合音声サンプル及びクリーン音声サンプルに相当する。 また、上記２（４）のとおり、引用発明における音源分離を行う敵対的生成ネットワークを訓練（学習）する方法として、敵対的生成ネットワークにおいて既に知られている学習方法であれば、どのような学習方法を適用するかは当業者が適宜選択し得る設計的選択事項にすぎず、引用文献２記載の事項として示される、敵対的生成ネットワークを用いた音声信号処理における生成器と識別器の最適化において既に知られた学習方法を引用発明の分離モデル及び敵対的モデルを訓練する技術に適用することは、当業者が適宜選択し得る設計的選択事項にすぎないといえる。 （３）さらに、引用文献１のIII-A節の右欄第１６～１８行目には、「分離モデルのパラメータθsに対して損失を最小化し、一方、敵対的モデルのパラメータθdに対して損失を最大化する」ことが記載されているが、引用発明はこれらのパラメータに対しての損失を直接最大化ないし最小化するのではない。 むしろ、上記１（４）のとおり、引用発明は構成ｄに示されるように、敵対的モデルの訓練では、構成ｃ３のハイブリッド損失関数の第２項である ［図：0001406296000044.jpg］ を最小化するものであり、これは本件発明の構成Ｄ５Ｄ３の「判別ネットワークモデルの損失関数を最小化する」ことに相当する。 また、引用発明は構成ｅに示されるように、分離モデルの訓練では、目的関数式（６）、すなわち構成ｃのハイブリッド損失関数のうちの ［図：0001406296000045.jpg］ の－λｌｂｃｅ（ｄ（ｘｔ，ｓ（ｘｔ）），０）の項を＋λｌｂｃｅ（ｄ（ｘｔ，ｓ（ｘｔ）)，１)に置き換えたものにおける平均二乗誤差を最小化するものであり、これは本件発明の構成Ｄ５Ｇ３の「生成ネットワークモデルの損失関数を最小化する」ことに相当する。 そして、上記２（４）のとおり、引用発明の構成ｄ、ｅの分離モデル及び敵対的モデルを訓練する技術に対して、引用文献２記載の事項を適用することで、分離モデル及び敵対的モデルを訓練する際には、これらモデルの訓練を交互に行うように構成し、かつ一方のモデルの訓練を行うときには他方を固定するように構成することは当業者が適宜選択し得る設計的選択事項にすぎず、このように構成した発明は本件発明の構成Ｄ５を踏まえた構成Ｄ５Ｄ１及びＤ５Ｇ１のトレーニングするステップを実行するものといえる。 以上のとおり、審判請求書の主張は採用できない。 第５ むすび 以上のとおり、本件発明は、引用発明及び引用文献２記載の技術並びに周知慣用技術に基づいて当業者が容易に発明をすることができたものであり、特許法第２９条第２項の規定により特許を受けることができない。 したがって、本願は、その余の請求項について検討するまでもなく、拒絶をすべきものである。 よって、結論のとおり審決する。