審決検索MVP
← 検索一覧に戻る
特許拒絶査定不服審判

2023-011470

環境のデータを使用するオーディオ増補

審判番号
2023-011470
法域
特許
審判種別
拒絶査定不服審判(拒絶査定不服の審決)
出願番号
特願2021-526518
請求日
2023年07月07日
審決日
2024年04月15日
公報発行日
2024年10月25日
結論
請求不成立
当事者
  • 【請求人】メタ プラットフォームズ テクノロジーズ, リミテッド ライアビリティ カンパニー
  • 【請求人代理人】弁理士法人World IP
審判長/審判官
  • 審判長 岩間 直純
  • 審判官 富澤 哲生
  • 審判官 野崎 大進
分類
P18 .121-Z (G06F)
条文(本文から自動抽出・参考)
特許法第29条
データ出所
審決公報(XML)

事件の表示

特願2021-526518「環境のデータを使用するオーディオ増補」拒絶査定不服審判事件〔令和 2年 6月11日国際公開、WO2020/117283、令和 4年 2月 2日国内公表、特表2022-512075〕について、次のとおり審決する。

結論

結 論 本件審判の請求は、成り立たない。

理由

理 由 第1 手続の経緯 本願は、2018年(平成30年)12月20日(パリ条約による優先権主張外国庁受理 2018年12月4日 米国)を国際出願日とする出願であって、その手続の経緯は次のとおりである。 令和4年 9月12日付け:拒絶理由通知書 令和5年 2月20日 :意見書、手続補正書の提出 令和5年 3月 2日付け:拒絶査定 令和5年 7月 7日 :拒絶査定不服審判の請求、手続補正書の提出 第2 本願発明 本願の請求項1~20に係る発明は、令和5年7月7日に提出された手続補正書により補正された特許請求の範囲の請求項1~20に記載された事項により特定される発明であり、そのうち、請求項1に係る発明(以下「本願発明」という。)は、次のとおりのものである。 「【請求項1】 デバイスを提供することと、 前記デバイスにおいて、環境内の少なくとも1つの音源の指示を含む環境データの1つまたは複数の部分にアクセスすることであって、前記デバイスが、ステアリング可能な1つまたは複数のオーディオビームを生成するように構成された1つまたは複数のオーディオハードウェア構成要素を含み、前記デバイスが人工現実(AR)デバイスを含み、前記環境データが、前記ARデバイスによって取得される同時ロケーションおよびマッピング(SLAM)センサデータを含む、環境データの1つまたは複数の部分にアクセスすることと、 前記SLAMセンサデータを含む、アクセスされた前記環境データに基づいて、前記環境内の前記音源のロケーションを識別することと、 前記デバイスの前記1つまたは複数のオーディオビームを前記環境内の前記音源の識別された前記ロケーションにステアリングすることと を含む、コンピュータ実装方法。」 第3 原査定の拒絶の理由 原査定(令和5年3月2日付け拒絶査定)の拒絶の理由は、概略、次のとおりのものである。 本願請求項1~20に係る発明は、以下の引用文献1,2に記載された発明に基づいて、その出願前にその発明の属する技術の分野における通常の知識を有する者(以下「当業者」という。)が容易に発明をすることができたものであるから、特許法29条2項の規定により特許を受けることができない。 引用文献1:米国特許出願公開第2017/0230760号明細書 引用文献2:特表2017-513535号公報 第4 引用文献の記載、引用発明等 1 引用文献1、引用発明 (1)原査定の拒絶の理由にて引用された引用文献1には、図面とともに、次の記載がある(下線は当審による。以下同様。訳文は、日本語ファミリー文献である特表2019-511148号公報を参考に当審が作成した。)。 「[0038]Referring to FIG. 2, one embodiment of an augmented reality system 100 constructed in accordance with present inventions will now be described. The augmented reality system 100 may be operated as an augmented reality subsystem, providing images of virtual objects intermixed with physical objects in a field of view of an end user 50. There are two fundamental approaches when operating the augmented reality system 100. A first approach employs one or more imagers (e.g., cameras) to capture images of the ambient environment. The augmented reality system 100 inter-mixes the virtual images into the data representing the images of the ambient environment. A second approach employs one or more at least partially transparent surfaces through which the ambient environment can be seen and on to which the augmented reality system 100 produces images of virtual objects. [0039]At least for augmented reality applications, it may be desirable to spatially position various virtual objects relative to respective physical objects in a field of view of the end user 50. Virtual objects, also referred to herein as virtual tags or tag or call outs, may take any of a large variety of forms, basically any variety of data, information, concept, or logical construct capable of being represented as an image. Non-limiting examples of virtual objects may include: a virtual text object, a virtual numeric object, a virtual alphanumeric object, a virtual tag object, a virtual field object, a virtual chart object, a virtual map object, a virtual instrumentation object, or a virtual visual representation of a physical object. [0040]More pertinent to the present inventions, the augmented reality system 100 is configured for coupling the focus of the end user to the preferentially reception of sound along a direction and/or at a distance, so that the end user hears the sound that is most relevant to the end user. In particular, the augmented reality system 100 detects a focus of the end user on a sound source, and preferentially conveys the sound originating from that sound source to the end user based on the detected focus of the end user, e.g., by setting the direction and/or distance of the preferential reception of sounds to the detected focus of the end user (i.e., towards and/or at the sound source on which the end user is focused). [0041]To this end, the augmented reality system 100 comprises a frame structure 102 worn by an end user 50, a display system 104 carried by the frame structure 102, such that the display system 104 is positioned in front of the eyes 52 of the end user 50, and a speaker 106 incorporated into or connected to the display system 104. In the illustrated embodiment, the speaker 106 is carried by the frame structure 102, such that the speaker 106 is positioned adjacent (in or around) the ear canal of the end user 50, e.g., an earbud or headphone. Optionally, another speaker (not shown) is positioned adjacent the other ear canal of the end user 50 to provide for stereo/shapeable sound control. Although the speaker 106 is described as being positioned adjacent the ear canal, other types of speakers that are not located adjacent the ear canal can be used to convey sound to the end user 50. For example, speakers may be placed at a distance from the ear canal, e.g., using a bone conduction technology. [0042]The augmented reality system 100 further comprises an adaptive microphone assembly 107 that converts sounds in the ambient environment to electrical signals that are then delivered to the speaker(s) 106, which in turn converts the electrical signals back to sounds that are then played back to the end user 50. As will be discussed in further detail below, the microphone assembly 107 preferentially receives sound in a particular direction and/or at a particular distance that corresponds to the direction and distance that the end user 50 is focused, thereby allowing the end user 50 to focus on the sound that is most relevant to the user at any particular time in the context of an augmented reality scene. As such, the microphone assembly 107 not only allows the end user 50 to more clearly hear the relevant sounds, it directs the attention of the end user 50 to the more relevant sounds, thereby enhancing the effectiveness of the experience. In the illustrated embodiment, the microphone assembly 107 is mounted to the arms of the frame structure 102.」 (当審訳: [0038]図2を参照すると、本発明に従って構築された拡張現実システム100の一実施形態が、ここで説明されるであろう。拡張現実システム100は、拡張現実サブシステムとして動作され、エンドユーザ50の視野内の物理的オブジェクトと混合される、仮想オブジェクトの画像を提供してもよい。拡張現実システム100を動作させるとき、2つの基本アプローチがある。第1のアプローチは、1つ又はそれ以上の撮像機(例えば、カメラ)を採用して、周囲環境の画像を捕捉することである。拡張現実システム100は、仮想画像を周囲環境の画像を表すデータの中に混合させる。第2のアプローチは、1つ又はそれ以上の少なくとも部分的に透明な表面を採用することであり、それを通して周囲環境が見え、その上に拡張現実システム100が仮想オブジェクトの画像を生成する。 [0039]少なくとも拡張現実用途のために、種々の仮想オブジェクトをエンドユーザ50の視野内の個別の物理的オブジェクトに対して空間的に位置付けることが望まれ得る。本明細書では、仮想タグ又はタグ若しくはコールアウトとも称される、仮想オブジェクトは、基本的に、画像として表されることが可能な任意の種々のデータ、情報、概念、又は論理構造である、多種多様な形態のいずれかを取り得る。仮想オブジェクトの非限定的実施例は、仮想テキストオブジェクト、仮想数字オブジェクト、仮想英数字オブジェクト、仮想タグオブジェクト、仮想フィールドオブジェクト、仮想チャートオブジェクト、仮想マップオブジェクト、仮想計器オブジェクト、又は物理的オブジェクトの仮想視覚表現を含み得る。 [0040]本発明により関連するものとして、拡張現実システム100は、エンドユーザの焦点合わせと、エンドユーザが、エンドユーザに最も関連する音が聞こえるような方向に沿った、及び/又は距離における音の優先的受信を結合するように構成される。特に、拡張現実システム100は、音源へのエンドユーザの焦点合わせを検出し、エンドユーザの検出された焦点合わせに基づいて、例えば、音の優先的受信の方向及び/又は距離をエンドユーザの検出された焦点合わせに設定することによって(すなわち、エンドユーザが焦点合わせしている音源に向かって、及び/又はそこにおいて)、その音源から生じる音をエンドユーザに優先的に伝達させる。 [0041]この目的を達成するために、拡張現実システム100は、エンドユーザ50によって装着される、フレーム構造102と、ディスプレイシステム104がエンドユーザ50の眼52の正面に位置付けられるように、フレーム構造102によって担持される、ディスプレイシステム104と、ディスプレイシステム104の中に組み込まれる、又はそこに接続される、スピーカ106とを備える。図示される実施形態では、スピーカ106は、例えば、イヤーバッド又はヘッドホン等、スピーカ106が、エンドユーザ50の外耳道に隣接して(その中又はその周囲に)位置付けられるように、フレーム構造102によって担持される。随意に、別のスピーカ(図示せず)が、ステレオ/成形可能音制御を提供するために、エンドユーザ50の他方の外耳道に隣接して位置付けられる。スピーカ106は、外耳道に隣接して位置付けられるように説明されるが、外耳道に隣接して位置しない、他のタイプのスピーカが、音をエンドユーザ50に伝達するために使用されることができる。例えば、スピーカは、例えば、骨伝導技術を使用して、外耳道からある距離に設置されてもよい。 [0042]拡張現実システム100はさらに、適応マイクロホンアセンブリ107を備え、該適応マイクロホンアセンブリは、周囲環境内の音を電気信号に変換し、該電気信号はその後スピーカ106に伝達され、それはその次に、電気信号をエンドユーザ50に対して再生される音に逆変換する。以下にさらに詳細に議論されるように、マイクロホンアセンブリ107は、エンドユーザ50が焦点合わせしている方向及び距離に対応する特定の方向及び/又は特定の距離における音を優先的に受信し、それによって、エンドユーザ50が、拡張現実場面の状況における任意の特定の時間において、ユーザに最も重要な音に焦点合わせすることを可能にする。したがって、マイクロホンアセンブリ107は、エンドユーザ50が、重要な音をより明確に聞くことを可能にするだけではなく、エンドユーザ50の注意をより重要な音に向け、それによって、体験の有効性を向上させる。図示される実施形態では、マイクロホンアセンブリ107は、フレーム構造102のアームに搭載される。) 「[0056]Referring back to FIG. 2, the augmented reality system 100 further comprises one or more sensors (not shown) mounted to the frame structure 102 for detecting the position and movement of the head 54 of the end user 50 and/or the eye position and inter-ocular distance of the end user 50. Such sensor(s) may include image capture devices (such as cameras), microphones, inertial measurement units, accelerometers, compasses, GPS units, radio devices, and/or gyros. [0057]For example, in one embodiment, the augmented reality system 100 comprises a head worn transducer subsystem 142 that includes one or more inertial transducers to capture inertial measures indicative of movement of the head 54 of the end user 50. Such may be used to sense, measure, or collect information about the head movements of the end user 50. For instance, such may be used to detect measurement movements, speeds, acceleration, and/or positions of the head 54 of the end user 50. [0058]The augmented reality system 100 further comprises one or more forward facing cameras 144, which may be used to capture information about the environment in which the end user 50 is located. The forward facing camera(s) 144 may be used to capture information indicative of distance and orientation of the end user 50 with respect to that environment and specific objects in that environment. When head worn, the forward facing camera(s) 144 is particularly suited to capture information indicative of distance and angular position (i.e., the direction in which the head is pointed) of the head 54 of the end user 50 with respect to the environment in which the end user 50 is located and specific objects in that environment. The forward facing camera(s) 144 may, for example, be employed to detect head movement, speed, and/or acceleration of head movements. The forward facing camera(s) 144 may, for example, be employed to detect or infer a center of attention of the end user 50, for example, based at least in part on an orientation of the head 54 of the end user 50. Orientation may be detected in any direction (e.g., up/down, left, right with respect to the reference frame of the end user 50). [0059]The augmented reality system 100 further comprises a pair of rearward facing cameras 146 to track angular position (the direction in which the eye or eyes are pointing), blinking, and depth of focus (by detecting eye convergence) of the eyes 52 of the end user 50. Such eye tracking information may, for example, be discerned by projecting light at the end user's eyes, and detecting the return or reflection of at least some of that projected light. Further details discussing eye tracking devices are provided in U.S. Patent Application Ser. No. 61/801,219 (Attorney Docket No. ML-30006-US), entitled "Display System and Method", U.S. Patent Application Ser. No. 62/005,834 (Attorney Docket No. ML-30017-US), entitled "Methods and Subsystem for Creating Focal Planes in Virtual and Augmented Reality", and U.S. Patent Application Ser. No. 61/776,771 (Attorney Docket No. ML-30005-US), entitled "Subsystem and Method for Augmented and Virtual Reality", which are expressly incorporated herein by reference. [0060]The augmented reality system 100 further comprises a user orientation detection module 148. The user orientation module 148 detects the instantaneous position of the head 54 of the end user 50 and may predict the position of the head 54 of the end user 50 based on position data received from the sensor(s). The user orientation module 148 also tracks the eyes 52 of the end user 50, and in particular the direction and/or distance at which the end user 50 is focused based on the tracking data received from the sensor(s).」 (当審訳: [0056]図2に戻って参照すると、拡張現実システム100はさらに、エンドユーザ50の頭部54の位置及び移動、及び/又は、エンドユーザ50の眼の位置及び眼球間距離を検出するためにフレーム構造102に搭載される、1つ又はそれ以上のセンサ(図示せず)を備える。そのようなセンサは、画像捕捉デバイス(カメラ等)、マイクロホン、慣性測定ユニット、加速度計、コンパス、GPSユニット、無線デバイス、及び/又はジャイロスコープを含み得る。 [0057]例えば、一実施形態では、拡張現実システム100は、エンドユーザ50の頭部54の移動を示す慣性測定値を捕捉する1つ又はそれ以上の慣性変換器を含む頭部装着型変換器サブシステム142を備える。そのようなものは、エンドユーザ50の頭部移動についての情報を感知、測定、又は収集するために使用されてもよい。例えば、そのようなものは、エンドユーザ50の頭部54の測定移動、速度、加速、及び/又は位置を検出するために使用されてもよい。 [0058]拡張現実システム100はさらに、エンドユーザ50が位置する環境についての情報を捕捉するために使用され得る、1つ又はそれ以上の前向きカメラ144を備える。前向きカメラ144は、その環境及びその環境内の特定のオブジェクトに対するエンドユーザ50の距離及び方位を示す情報を捕捉するために使用され得る。頭部に装着されると、前向きカメラ144は、特に、エンドユーザ50が位置する環境及びその環境内の特定のオブジェクトに関するエンドユーザ50の頭部54の距離及び角度位置(すなわち、頭部が向けられる方向)を示す情報を捕捉することに適したものとされる。前向きカメラ144は、例えば、頭部移動、頭部移動の速度、及び/又は加速を検出するために使用されてもよい。前向きカメラ144は、例えば、少なくとも部分的に、エンドユーザ50の頭部54の方位に基づいて、例えば、エンドユーザ50の注意の中心を検出又は推測するために使用されてもよい。方位は、任意の方向(例えば、エンドユーザ50の基準フレームに対して上/下、左、右)において検出されてもよい。 [0059]拡張現実システム100はさらに、一対の後向きカメラ146を備え、エンドユーザ50の眼52の角度位置(片眼又は両眼が向いている方向)、瞬き、及び(眼収束を検出することによって)焦点深度を追跡する。そのような眼追跡情報は、例えば、光をエンドユーザの眼に投影させ、その投影された光の少なくとも一部の戻り又は反射を検出することによって、判別されてもよい。眼追跡デバイスについて議論するさらなる詳細は、「Display System and Method」と題された米国特許出願第61/801,219号(弁理士整理番号ML-30006-US)、「Methods and Subsystem for Creating Focal Planes in Virtual and Augmented Reality」と題された米国特許出願第62/005,834号(弁理士整理番号ML-30017-US)、及び「Subsystem and Method for Augmented and Virtual Reality」と題された米国特許出願第61/776,771号(弁理士整理番号ML-30005-US)(参照することによって明示的に本明細書に組み込まれる)において提供される。 [0060]拡張現実システム100はさらに、ユーザ方位検出モジュール148を備える。ユーザ方位モジュール148は、エンドユーザ50の頭部54の瞬間位置を検出し、センサから受信された位置データに基づいて、エンドユーザ50の頭部54の位置を予測してもよい。ユーザ方位モジュール148はまた、センサから受信された追跡データに基づいて、エンドユーザ50の眼52、及び、特にエンドユーザ50が焦点合わせしている方向及び/又は距離を追跡する。) 「[0064]The adaptive microphone assembly 107 is capable of preferentially receiving sound in a particular direction relative to other sounds. For example, the microphone assembly 107 may have a conventional polar pattern, e.g., dipole, cardioid, supercardioid, or hypercardioid, as illustrated in FIGS. 6a-6d. The microphone assembly 107 is, however, capable of dynamically modifying the polar pattern based on the direction in which the end user 50 is focused. In other words, the greatest sensitivity of the microphone assembly 107 along a direction and/or at a distance may be modified. [0065]To this end, and with reference to FIG. 7, the microphone assembly 107 comprises a phased array of microphone elements 250 (in this case, microphone elements M1-Mn), each of which is configured for detecting and converting ambient sound signals into an audio signal. In the illustrated embodiment, the microphone elements 118 are digital in nature, and thus, convert the ambient sound signal into digital audio signals, and in this case pulse density modulation (PDM) signals. Preferably, the microphone elements 250 are spatially spaced from each other to maximize directionality of the microphone assembly 107. For example, as shown in FIG. 2, two of the microphone elements 250 may be mounted to each arm of the frame structure 102, although more than two, such as four microphone elements 250 may be mounted to each arm of the frame structure 106.」 (当審訳: [0064]適応マイクロホンアセンブリ107は、他の音より特定の方向における音を優先的に受信可能である。例えば、マイクロホンアセンブリ107は、従来の偏波パターン、例えば、図6a-6dに図示されるように、ダイポール、カージオイド、スーパーカージオイド、又はハイパーカージオイドを有してもよい。しかしながら、マイクロホンアセンブリ107は、エンドユーザ50が焦点合わせしている方向に基づいて、偏波パターンを動的に修正可能である。言い換えると、ある方向に沿った、及び/又はある距離におけるマイクロホンアセンブリ107の最大感度は、修正されてもよい。 [0065]この目的を達成するために、図7を参照すると、マイクロホンアセンブリ107は、マイクロホン素子250のフェーズドアレイ(この場合、マイクロホン素子M1-Mn)を備え、それぞれ、周囲音信号を検出し、オーディオ信号に変換するように構成される。図示される実施形態では、マイクロホン素子118は、性質上、デジタルであって、したがって、周囲音信号をデジタルオーディオ信号、この場合、パルス密度変調(PDM)信号に変換する。好ましくは、マイクロホン素子250は、相互から空間的に離間され、マイクロホンアセンブリ107の方向性を最大限にする。例えば、図2に示されるように、マイクロホン素子250のうちの2つは、フレーム構造102の各アームに搭載されてもよいが、4つのマイクロホン素子250等、2つを超えるものが、フレーム構造106の各アームに搭載されてもよい。) 「[0067]The microphone assembly 107 further comprises a digital signal processor (DSP) 256, which comprises an audio processing module 258 configured for processing the digital audio signals output by the gain amplifiers 254, and outputting a directional audio signal that preferentially represents sound received by the microphone assembly 116. To this end, the audio processing module 258 comprises processing parameters in the form of a plurality of delay elements 260 (in this case, delay elements D1-Dn, one for each microphone element M), a plurality of gain elements 262 (in this case, gain elements G1-Gn, one for each microphone element M), and a summer 264. The delay elements 260 respectively apply delay factors to the amplified digital signals received from the corresponding gain amplifiers 254 of the microphone assembly 107, and the gain elements 262 respectively apply gain factors to the delayed digital signals. The summer 264 (S) adds the gain adjusted and delayed signals to generate a digital audio signal that is transformed into an analog audio signal via a digital-to-analog (D/A) converter 266 and transmitted to the speaker(s) 106 for output to the end user 50 as a discernible sound. [0068]The microphone elements 250 are spatially arranged and the delay elements 260 and gain elements 262 are set in a manner that results in the receipt of ambient sound in accordance with a directional polar pattern (i.e., sounds arriving from a particular angular direction or directions will be emphasized more than sounds arriving from other angular directions). Significantly, the directionality of the microphone element array 250 is modified based on the detected focus of the end user 50, e.g., the direction at which the microphone element array 250 preferentially receives the sound may be set along the direction of the detected focus of the end user 50. To this end, the DSP 256 receives orientation data from the user orientation detection module 148 indicative of the direction in which the user 50 is focused. For example, the orientation data may correspond to the angular position of the eye 52 detected by the rearward facing camera(s) 146 or the angular position of the head 54 detected by the forward-facing camera(s) 144.」 (当審訳: [0067]マイクロホンアセンブリ107はさらに、デジタル信号プロセッサ(DSP)256を備え、これは、利得増幅器254によって出力されたデジタルオーディオ信号を処理し、マイクロホンアセンブリ116によって受信された音を優先的に表す方向性オーディオ信号を出力するように構成される、オーディオ処理モジュール258を備える。この目的を達成するために、オーディオ処理モジュール258は、複数の遅延素子260(この場合、遅延素子D1-Dn、マイクロホン素子M毎に1つ)の形態における処理パラメータ、複数のゲイン要素262(この場合、ゲイン要素G1-Gn、マイクロホン素子M毎に1つ)、及び加算器264を備える。遅延素子260はそれぞれ、遅延係数をマイクロホンアセンブリ107の対応する利得増幅器254から受信された増幅されたデジタル信号に適用し、ゲイン要素262はそれぞれ、利得係数を遅延されたデジタル信号に適用する。加算器264(S)は、利得調節され遅延された信号を追加し、デジタルオーディオ信号を発生させ、これは、信号デジタル/アナログ(D/A)コンバータ266を介してアナログオーディオに変換され、判別可能音としてのエンドユーザ50への出力のために、スピーカ106に伝送される。 [0068]マイクロホン素子250は、空間的に配列されており、遅延素子260及びゲイン要素262は、方向性極パターン(すなわち、ある特定の角度の方向又は複数の方向から到達する音が他の角度の方向から到達する音よりも強調されるであろうこと)に応じて周囲音を受信する結果となるように設定される。重要なこととして、マイクロホン素子アレイ250の方向性は、エンドユーザ50の検出された焦点合わせに基づいて修正され、例えば、マイクロホン素子アレイ250が音を優先的に受信する方向は、エンドユーザ50の検出された焦点合わせの方向に沿って設定されてもよい。この目的を達成するために、DSP256は、ユーザ配向検出モジュール148から、ユーザ50が焦点合わせしている方向を示す配向データを受信する。例えば、配向データは、後向きカメラ146によって検出された眼52の角度位置又は前向きカメラ144によって検出された頭部54の角度位置に対応してもよい。) 「[0074]The DSP 256 may additionally use the positional information of the sound source to process the sound signals to achieve increased focus, increased discernment of sounds, and increased intelligibility of verbal subject matter. That is, because the sensors provide better information about the location and nature of the sound source, as well as the actual environment, while the database 160 provides information of the "persistent world," and can therefore inform how the sound signals can be rendered to the end user 50 in a manner that increases attention on the desired sound source. For instance, artificial sounds can be made very appropriate to the environment or room, and therefore, realistic and easy to concentrate on, or artificial or real sounds can be made unnatural, thereby standing out in a manner that contrasts with other sounds, and attracting attention, e.g., changing the pitch or adding an "announcer megaphone" effect. [0075]For example, in the case where multiple speakers 106 are used, the focus of the end user 50 on the relevant sound and/or the ability of the end user 50 to hear and/or discern that relevant sound may be increased by localizing the received sounds, e.g., by playing the sound back through the speakers 106 in such a way as to make it appear to the end user 50 that the sounds are originating from the locations of the sound sources, so as to affect clarity or realism of the sound. The sounds can be localized using in one or more of various techniques. To add to the sense of directionality, especially for virtual sound not originating in the real world, the DSP 256 may appropriately shape the tonality of the played back sounds and/or add appropriate reflections, occlusion, or obstruction to fit the real or virtual aspects of a room shape or environment.」 (当審訳: [0074]DSP256は、加えて、音源の位置情報を使用して、音信号を処理し、集束増加、音の判別の増加、及び口述された主題の明瞭性の増加を達成し得る。すなわち、センサが、実際の環境と同様に、音源の場所及び原因についてのより良い情報を提供するため、データベース160は、「持続的世界」の情報を提供し、したがって、音信号が所望の音源への注意を増加させるという態様においてエンドユーザ50にレンダリングされ得る方法を知らせることができる。例えば、人工音は、環境又は部屋に対して非常に適切であるようにされることができ、したがって、現実的かつ集中が容易にされることができる、若しくは、人工又は実際の音は、不自然にされることができ、それによって、他の音と対照的であるという態様において目立ち、注意を引くことができ、例えば、ピッチを変化させる、又は「アナウンサーメガホン」効果を追加することができる。 [0075]例えば、複数のスピーカ106が使用される場合、重要な音へのエンドユーザ50の焦点合わせ、及び/又は、その重要な音を聞く及び/又は判別するエンドユーザ50の能力は、受信された音を位置特定することによって、例えば、音の明確性又は現実性に影響を及ぼすよう、音が音源の場所から生じているようにその音がエンドユーザ50に対して現れるような方法で、スピーカ106を通して音を再生することによって、増加され得る。音は、種々の技法のうちの1つ又はそれ以上のものを使用して、位置特定することができる。特に、実世界内で生じていない仮想音について、方向性の感覚を追加するために、DSP256は、再生された音の調性を適切に成形し、及び/又は、適切な反響、閉塞、又は妨害を追加し、部屋形状又は環境の実際的又は仮想的側面に適合させ得る。) (図2)「 [図:0001414849000001.jpg] 」 (図7)「 [図:0001414849000002.jpg] 」 (2)上記(1)の特に下線部の記載は、「音源から生じる音をエンドユーザに優先的に伝達させる」(段落[0040])方法を示すものといえる。 (3)上記(1)の記載及び上記(2)から、引用文献1には、次の発明(以下「引用発明」という。)が記載されていると認められる。 「拡張現実システム100は、音源へのエンドユーザの焦点合わせを検出し、エンドユーザの検出された焦点合わせに基づいて、音の優先的受信の方向及び/又は距離をエンドユーザの検出された焦点合わせに設定することによって、その音源から生じる音をエンドユーザに優先的に伝達させ、 拡張現実システム100は、エンドユーザ50によって装着されるフレーム構造102と、スピーカ106とを備え、 拡張現実システム100はさらに、適応マイクロホンアセンブリ107を備え、該適応マイクロホンアセンブリは、周囲環境内の音を電気信号に変換し、該電気信号はその後スピーカ106に伝達され、 拡張現実システム100はさらに、エンドユーザ50が位置する環境についての情報を捕捉するために使用され得る、1つ又はそれ以上の前向きカメラ144を備え、前向きカメラ144は、エンドユーザ50が位置する環境及びその環境内の特定のオブジェクトに関するエンドユーザ50の頭部54の距離及び角度位置(すなわち、頭部が向けられる方向)を示す情報を捕捉することに適したものとされ、 拡張現実システム100はさらに、ユーザ方位検出モジュール148を備え、ユーザ方位モジュール148は、センサから受信された追跡データに基づいて、エンドユーザ50の眼52、及び、エンドユーザ50が焦点合わせしている方向及び/又は距離を追跡し、 マイクロホンアセンブリ107は、マイクロホン素子250のフェーズドアレイを備え、それぞれ、周囲音信号を検出し、オーディオ信号に変換するように構成され、 マイクロホンアセンブリ107はさらに、デジタル信号プロセッサ(DSP)256を備え、これは、デジタルオーディオ信号を処理し、方向性オーディオ信号を出力するように構成される、オーディオ処理モジュール258を備え、オーディオ処理モジュール258は、複数の遅延素子260の形態における処理パラメータ、複数の利得ゲイン要素262及び加算器264を備え、 マイクロホン素子アレイ250は、空間的に配列されており、遅延素子260及びゲイン要素262は、ある特定の角度の方向又は複数の方向から到達する音が他の角度の方向から到達する音よりも強調される結果となるように設定され、マイクロホン素子アレイ250が音を優先的に受信する方向は、エンドユーザ50の検出された焦点合わせの方向に沿って設定され、この目的を達成するために、DSP256は、ユーザ配向検出モジュール148から、ユーザ50が焦点合わせしている方向を示す配向データを受信し、配向データは、前向きカメラ144によって検出された頭部54の角度位置に対応し、 DSP256は、再生された音の調性を適切に成形し、及び/又は、適切な反響、閉塞、又は妨害を追加し、部屋形状又は環境の実際的又は仮想的側面に適合させる、 音源から生じる音をエンドユーザに優先的に伝達させる方法。」 2 引用文献2、引用文献3、周知技術 (1)引用文献2 ア 原査定の拒絶の理由にて引用された引用文献2には、図面とともに、次の記載がある。 「【0014】 図1は、ユーザ14にナビゲーション支援を提供するための頭部装着型コンピューティングデバイス10の一実施形態の概略図を示す。頭部装着型コンピューティングデバイス10はナビゲーションモジュール16を含む。ナビゲーションモジュール16は、頭部装着型コンピューティングデバイス10の大容量ストレージ18内に格納され得る。ナビゲーションモジュール16は、メモリ20内にロードされて、頭部装着型コンピューティングデバイス10のプロセッサによって実行され、以下でより詳細に説明される方法及び処理の1つ以上を実行し得る。」 「【0019】 図1及び図2を参照すると、この例では、頭部装着型コンピューティングデバイス10は、深度画像データ38を生成する1つ以上の深度カメラ208を含む、深度センサシステム34を含む。深度センサシステム34は、例えばジェスチャベースの入力や、ユーザ14によって又はユーザの視野内の人間若しくは物理的物体によって実行される他の動きのような、その視野内の動きも検出することができる。一例では、各深度カメラ208は、立体ビジョンシステムの左右のカメラを含んでもよい。これらの深度カメラの1つ以上からの時間分解画像を、互いに対して、かつ/又は可視スペクトルカメラ等の別の光センサからの画像に対して登録することができ、これらの時間分解画像を組み合わせて深度分解ビデオを得ることができる。 【0020】 他の例では、構造化された光深度カメラが、構造化された赤外線照明を投影し、その照明が投影されるシーンから反射された照明を画像化するように構成され得る。シーンの深度マップを、撮像されるシーンの様々な領域内の近接する特徴の間の間隔に基づいて構造化することができる。更に他の例では、深度カメラは、パルス化された赤外線照明をシーン上に投影して、そのシーンから反射された照明を検出するよう構成される飛行時間深度カメラの形をとってもよい。本開示の範囲内で任意の他の適切な深度カメラを使用することができることが認識されよう。 【0021】 頭部装着型コンピューティングデバイス10は、RGBカメラ又は他の光センサのような、少なくとも1つの外側向きのセンサ212を用いる可視光センサシステム42も含み得る。可視光センサシステム42は可視画像データ46を生成することができ、この可視画像データ46はナビゲーションモジュール16に提供され得る。外側向きのセンサ212は、物理環境32からの2次元の画像情報及び環境32内の特徴50をキャプチャすることができる。以下でより詳細に説明されるように、特徴50は、環境32内の物理的な物体52及び危険要因(hazard)54を含み得る。一部の例では、物理的な物体52が危険要因54を備えることもある。外側向きのセンサ212は、ユーザが置かれている物理環境32の画像をキャプチャすることができる。」 「【0034】 次に図3~図7を参照して、例示の使用ケースの説明及び頭部装着型コンピューティングデバイス10の実施形態を提供することにする。図3では、図2の頭部装着型コンピューティングデバイス200を装着しているユーザ14が、家300の中を歩いている。ユーザ14は、視覚障害を持っており、ナビゲーション支援のために頭部装着型コンピューティングデバイス200を使用することができる。一例では、ユーザ14は、家300の中の部屋から部屋へと歩き、部屋ごとに、その部屋を識別する部屋識別子のユーザ入力30を提供することによって、頭部装着型コンピューティングデバイス200を開始することができる。 【0035】 例えばユーザ14がキッチン304の周囲を歩く間に、ユーザは「ここはキッチンです」と言うことができる。ナビゲーションモジュール16は、このユーザ入力30を受け取り、音声認識プログラムを使用してこのユーザ入力を処理し、キッチン304に「キッチン」識別子でタグを付けることができる。ナビゲーションモジュール16は、キッチン304の可視画像データ46及び深度画像データ38を使用して、キッチン及びその様々な特徴50の3Dメッシュ、例えば器具や家具、壁、輪郭、表面等の3Dメッシュを生成することができる。ナビゲーションモジュール16は、「キッチン」識別子でタグ付けされたキッチン304を含む、家300の対応するマップ80を生成することもできる。同様の手法で、ナビゲーションモジュール16は、居間308の可視画像データ46及び深度画像データ38を使用して、この部屋及びその様々な特徴50の3Dメッシュを生成することができる。ナビゲーションモジュールは、ユーザ14からのユーザ入力30に基づいて、居間を「居間」識別子でタグ付けして、「居間」識別子でタグ付けされた居間308を、家300のマップ80に追加することができる。ユーザが部屋から部屋へ、家300の周囲を歩くと、ナビゲーションモジュール16は、家をナビゲートするときにユーザが取る通常の経路を認識し、記憶することもできる。 【0036】 その後、ユーザ14がこれらの部屋の1つに入ると、ナビゲーションモジュール16は、マップ80を介してその部屋を識別し、対応する部屋識別子でタグ付けされるものとして、その部屋を検出する。したがって、対応する部屋識別子でタグ付けされる部屋を検出することに少なくとも基づいて、ナビゲーションモジュール16は、精通ナビゲーションモード26に関与(engage)することができる。他の例では、物理環境32の部屋又は他の部分は、識別子に関連付けられないが、ユーザ14によって以前に訪問されていることがある。これらの例では、ナビゲーションモジュール16は、例えばマシン学習技術を用いることによって、ユーザの1以上の以前の訪問から環境32の部屋又は他の部分を認識することができる。ユーザが、環境32の部屋又は他の部分を、少なくとも所定の回数、例えば1、3、5又は任意の他の適切な回数訪問していた場合、ナビゲーションモジュール16は、精通ナビゲーションモード26に関与することができる。更に他の例では、ユーザ14は、ユーザ入力30を、精通ナビゲーションモード26に関与するナビゲーションモジュール16に提供することができる。 【0037】 図3の参照を続けると、以下でより詳細に説明されるように、精通ナビゲーションモード26の間、ナビゲーションモジュール16は、ナビゲーションモジュール16が非精通ナビゲーションモード28で動作しているときに提供されるナビゲーションキューとは異なるナビゲーションキュー62を、ユーザ14に提供することができる。一例では、ユーザ14は、通常の位置314に配置されるオットマン312の一般的方向に歩いていることがある。精通ナビゲーションモード26では、ナビゲーションモジュール16は、居間308への以前の訪問からオットマン312の通常の位置314をユーザが覚えているという想定の下で、オットマン312に対応するナビゲーションキュー62は提供しなくてよい。別の例では、ナビゲーションモジュール16は、スピーカ216を介してソフト音声で「オットマン」と発声することのように、オットマン312についての軽度なリマインダを備えるオーディオ・ナビゲーションキュー64を出力することができる。 【0038】 別の例では、ユーザ14は、家300に初めて訪れる来客である可能性がある。したがって、ナビゲーションモジュール16は、非精通ナビゲーションモード28に関与し得る。このモードでは、ユーザ14がオットマン312の一般的方向に歩くと、ナビゲーションモジュール16は、ユーザにオットマンの位置を警告するオーディオ・ナビゲーションキュー64を、ユーザに提供することができる。例えばナビゲーションモジュール16は、1つ以上の音源定位を使用して、精通イアコン(familiar earcon)320として図示される簡単かつ特徴的な音(又はイアコン(earcon))を出力することができる。そのような音源定位は、ユーザ14に、そのイアコンが、オットマン312に対応する通常の3D位置314で発生しているように知覚させる。別の例では、ナビゲーションモジュール16は、音源定位を使用して、ユーザに対して、通常の位置314から「オットマン」という単語を発声してもよい。 【0039】 別の例では、精通ナビゲーションモード26の間、ナビゲーションモジュール16は、オットマン312が、その通常の位置314とは異なる、普段と違う位置316にあることを認識することがある。さらに、ユーザの移動の方向にも基づいて、ナビゲーションモジュール16は、普段と違う位置316において、オットマン312がユーザ14の直接経路内にあると判断することがある。ナビゲーションモジュール16は、この状況において、オットマン312によって、ユーザ14がつまずく危険があると判断することがある。 【0040】 したがって、ナビゲーションモジュール16は、オットマン312を危険要因54に分類し、音源定位を利用して、オットマン312の普段と違う位置316についてユーザに警告するオーディオ・ナビゲーションキュー64を、警告イアコン322の形で出力することができる。この例では、オットマン312は、ナビゲーションモジュール16によって物体52と危険要因54の双方に分類され得る。加えて、ユーザ14に切迫感を伝えるために、警告イアコン322を、精通イアコン320と比べてより高いボリュームで出力してもよく、これは、図3では、精通イアコン320よりも大きいサイズを有する警告イアコン322によって示されている。他の例では、警告イアコン322は、精通イアコン320と比べて、異なる特徴的な音(複数可)を備えてもよい。」 「【図1】 [図:0001414849000003.jpg] 【図2】 [図:0001414849000004.jpg] 【図3】 [図:0001414849000005.jpg] 」 イ 上記アの記載から、引用文献2には、次の事項(以下「引用文献2記載事項」という。)が記載されていると認められる。 「頭部装着型コンピューティングデバイスが、ナビゲーションモジュール16を含み、 頭部装着型コンピューティングデバイスは、深度画像データ38を生成する1つ以上の深度カメラ208を含む、深度センサシステム34を含み、 頭部装着型コンピューティングデバイスが、RGBカメラ又は他の光センサのような、少なくとも1つの外側向きのセンサ212を用いる可視光センサシステム42も含み、可視光センサシステム42は可視画像データ46を生成し、外側向きのセンサ212は、環境32内の特徴50をキャプチャし、特徴50は、危険要因(hazard)54を含み、 頭部装着型コンピューティングデバイスを装着しているユーザ14が、家300の中を歩いており、 例えばユーザ14がキッチン304の周囲を歩く間に、ナビゲーションモジュール16は、キッチン304の可視画像データ46及び深度画像データ38を使用して、キッチン及びその様々な特徴50の3Dメッシュ、例えば器具や家具、壁、輪郭、表面等の3Dメッシュを生成し、また、ナビゲーションモジュール16は、「キッチン」識別子でタグ付けされたキッチン304を含む、家300の対応するマップ80を生成し、ユーザが部屋から部屋へ、家300の周囲を歩くと、ナビゲーションモジュール16は、家をナビゲートするときにユーザが取る通常の経路を認識し、記憶し、 その後、ユーザ14がこれらの部屋の1つに入ると、ナビゲーションモジュール16は、マップ80を介してその部屋を識別し、対応する部屋識別子でタグ付けされるものとして、その部屋を検出し、したがって、対応する部屋識別子でタグ付けされる部屋を検出することに少なくとも基づいて、ナビゲーションモジュール16は、精通ナビゲーションモード26に関与することができ、 精通ナビゲーションモード26の間、ナビゲーションモジュール16は、オットマン312が、その通常の位置314とは異なる、普段と違う位置316にあることを認識し、さらに、ユーザの移動の方向にも基づいて、ナビゲーションモジュール16は、普段と違う位置316において、オットマン312がユーザ14の直接経路内にあると判断し、ナビゲーションモジュール16は、この状況において、オットマン312によって、ユーザ14がつまずく危険があると判断し、 したがって、ナビゲーションモジュール16は、オットマン312を危険要因54に分類し、オットマン312の普段と違う位置316についてユーザに警告すること。」 ウ 引用文献2記載事項において、「ユーザ14」が「歩く」際に、「マップ80」を「生成」する動作と、「ナビゲーションモジュール16は、家をナビゲートするときにユーザが取る通常の経路を認識」する動作とが行われており、後者の動作における「経路を認識」することは、「マップ80」に対する「ユーザ14」の位置の推定であることは明らかである。 そうすると、「マップ80を生成」する動作と「ユーザ14」の位置を推定する動作とは、同時に行われる、すなわち、引用文献2記載事項では、同時ロケーションおよびマッピング(SLAM)手法による動作として上記の各動作が実行されるといえる。 エ また、引用文献2記載事項において、「頭部装着型コンピューティングデバイス」が「含」む「外側向きのセンサ212」が「キャプチャする」「環境32内の特徴50」は、「危険要因(hazard)54を含」むものである一方、「マップ80を介してその部屋を識別し、対応する部屋識別子でタグ付けされるものとして、その部屋を検出する」ことを経て行われる「精通ナビゲーションモード26」において、「ナビゲーションモジュール16は、オットマン312が、その通常の位置314とは異なる、普段と違う位置316にあることを認識し」、さらに「オットマン312を危険要因54に分類」することが行われるから、「オットマン312を危険要因54に分類」することが、「マップ80」及び「外側向きのセンサ212」が「キャプチャする」「環境32内の特徴50」のデータに基づいて行われることは明らかである。 オ 上記ウ、エによると、引用文献2記載事項において、「頭部装着型コンピューティングデバイス」の「外側向きのセンサ212」が「キャプチャする」「環境32内の特徴50」のデータは、SLAMセンサデータを含む環境データであるといえるから、引用文献2記載事項は、「デバイス(頭部装着型コンピューティングデバイス)によって取得されるSLAMセンサデータを含む環境データに基づいて、物体(オットマン312)を検出する」ことを含むものである。 (2)引用文献3 ア 遠藤勇樹 他,視覚障がい者向けナビシステムにおけるカメラ画像を用いた障害物検出及び自己位置推定法,第79回全国大会講演論文集,情報処理学会,2017年3月16日,p.1-79~p.1-80(以下「引用文献3」という。)には、図面とともに、次の記載がある。 「1. はじめに 視覚障がい者誘導用ブロック(点字ブロック)や白杖は視覚障がい者に対して,分岐点・進行方向・障害物を知らせ,視覚情報なしでの歩行をサポートする.しかし,それらは歩行の安全確保が目的であり,目的地までの経路情報を提供することはない.また,白杖の走査範囲は利用者の足元に限られ,上半身に接触するような障害物を認識できない.そこで,Simultaneous Localization And Mapping(SLAM)によって得られる自己位置と環境地図を利用して,目的地までの道のりと目前の障害物に対する回避経路をアナウンスする視覚障がい者向け案内システムを開発した.SLAMは利用者が装着したウェアラブルカメラを利用して実行される.本稿では,利用した技術と開発したシステムについて報告する. 2. SLAMシステム 2.1 SLAMについて SLAMは,自己位置推定と環境地図生成を同時に行うアルゴリズムである[1].その中でも,現時点までに取得した自己位置推定結果の軌跡と,各推定位置から観測した周辺環境(オブジェクトの3D点群表現)をリアルタイムに算出するオンラインSLAM[2]を応用する.位置の軌跡とそれぞれにおける周辺情報は,すべてを統合して環境全体のオブジェクト情報,すなわち環境地図とみなすことができる. 2.2 SLAMの利用方法 本システムでは,現在に観測できる周辺環境と,今までの観測が蓄積された環境地図を異なる情報として扱い,周辺環境情報と環境地図情報と命名する.それぞれの情報は,現時点で障害物を回避するための局所的な経路と,目的地へ案内するための大域的な経路の生成に利用される. 3. 経路探索と案内 3.1 環境情報の表現 SLAMシステムから出力される周辺環境情報と環境地図情報は3D点群だが,オブジェクトの有無が環境を一定間隔で区切ったセルごとに保持される占有格子地図で表現することで,経路探索処理を単純にすることができる.占有格子地図は,開発する案内システムが「左」,「右」のように2次元的な案内のみを想定しているため,2次元平面に投影される. 3.2 点群から占有格子地図への変換 SLAMから得られる点群は3次元空間における環境のオブジェクトを表現しているため,占有格子地図を利用するために,点群を2次元平面へ投影する必要がある.また,床面や天井面など障害物にはならない点群も保持しているため,ウェアラブルカメラの位置から高さ方向で一定範囲外の点群を不要な点群として排除し,床面や天井面を除いた点群のみが占有格子地図に投影される必要がある. 3.3 環境情報の分類 SLAMから出力される,現時点での周辺環境情報と動作開始時から累積している環境地図情報は,占有格子地図へ変換され,それぞれ以下2つの情報として保持・処理される. ● 局所的占有格子情報:自己位置から一定範囲内の周辺環境情報を占有格子地図へ変換したもので,ウェアラブルカメラから即時的に得られる障害物を示し,その時点での回避経路の探索に使われる(局所的経路探索).実際は「地図」ではなく,周辺の状況であるため,局所的占有格子情報と命名する. ● 大域的占有格子地図:環境の原点(案内開始時に決める)から見た環境全体の点群情報,つまりSLAMから出力される環境地図情報を占有格子地図へ変換したもので,案内時は,スタート時に生成する目的地までの大まかな経路の生成に使われる(大域的経路探索).この占有格子地図は取得後,システムに保存され,次回以降の案内に利用される.以下地図とも呼ぶ. 3.4 経路案内 以上で示した2つの経路探索を組み合わせて算出される1つの経路をシステムで利用する. まず,現在地(出発地)と目的地が入力され,予め保存されている大域的占有格子地図に対する経路探索によって,大域的経路が算出される.案内は主にこの経路に従って行われる.案内中,局所的占有格子情報から見つかる(大域的)経路上の障害物に対しては,局所的経路探索が実行され,元の経路へ戻るように迂回する経路が計画される.以上に示した処理の組み合わせによって,目的地までの案内と,突然現れる障害物への警告が実現される.図1において,S(出発地)からG(目的地)まで伸びる曲線が大域的経路で,障害物を迂回するように利用者から伸びている曲線が局所的経路である.局所的経路は障害物が実際に観測されてから計算される.」 「 [図:0001414849000006.jpg] 」 イ 上記アの記載から、引用文献3には、次の事項(以下「引用文献3記載事項」という。)が記載されていると認められる。 「SLAMによって得られる自己位置と環境地図を利用して、目的地までの道のりと目前の障害物に対する回避経路をアナウンスする視覚障がい者向け案内システムにおいて、 SLAMは利用者が装着したウェアラブルカメラを利用して実行され、 SLAMシステムから出力される周辺環境情報と環境地図情報は3D点群であり、 SLAMから出力される、現時点での周辺環境情報と動作開始時から累積している環境地図情報は、占有格子地図へ変換され、自己位置から一定範囲内の周辺環境情報を占有格子地図へ変換した、ウェアラブルカメラから即時的に得られる障害物を示す局所的占有格子情報、及び、SLAMから出力される環境地図情報を占有格子地図へ変換した、大域的占有格子地図として保持・処理され、 現在地(出発地)と目的地が入力され、予め保存されている大域的占有格子地図に対する経路探索によって、大域的経路が算出され、案内は主にこの経路に従って行われ、案内中、局所的占有格子情報から見つかる(大域的)経路上の障害物に対しては、局所的経路探索が実行され、元の経路へ戻るように迂回する経路が計画され、以上に示した処理の組み合わせによって、目的地までの案内と、突然現れる障害物への警告が実現されること。」 ウ 引用文献3記載事項において、「経路上の障害物」を検出することが、「ウェアラブルカメラから即時的に得られる障害物を示す局所的占有格子情報」に基づいて行われるといえる。 また、ここで、「ウェアラブルカメラから即時的に得られる障害物を示す局所的占有格子情報」は、「SLAMから出力される、現時点での周辺環境情報」から得られるものであるから、ウェアラブルカメラによって取得されるSLAMセンサデータを含む環境データであるといえる。 よって、引用文献3記載事項は、「デバイス(ウェアラブルカメラ)によって取得されるSLAMセンサデータを含む環境データに基づいて、物体(経路上の障害物)を検出する」ことを含むものである。 (3)周知技術 上記(1)オ、(2)ウによると、「デバイスによって取得されるSLAMセンサデータを含む環境データに基づいて、物体を検出する」ことは周知技術であるといえる。 3 引用文献4 特開2017-90416号公報(以下「引用文献4」という。)には、図面とともに、次の記載がある。 「【背景技術】 【0002】 カメラによって取得した画像に基づいて当該カメラの位置姿勢を推定する技術が、コンピュータビジョンおよびロボティクスなどの分野において活用されている。この技術は、例えば、自律移動ロボットの自己位置推定、ナビゲーションシステム、AR(拡張現実)技術などに応用されている。 【0003】 具体的には、カメラの位置姿勢と周辺の被写体の3次元構造とを同時に推定する技術として、SLAM(Simultaneous Localization and Mapping)、SfM(Structure from Motion)などが研究されてきた。 【0004】 位置姿勢推定技術には、単眼カメラが用いられることもあるし、ステレオカメラが用いられることもある。特に、ステレオカメラを用いてSLAMを実行すれば、当該ステレオカメラの周辺の3次元構造の絶対スケールを推定することができる。 【0005】 ステレオカメラを用いたSLAMは、ある時刻(t)のステレオ画像に基づいて特徴点の3次元点を復元し、別の時刻(t+1)にこの3次元点をこのステレオカメラに投影した場合の再投影誤差を最小化するように、別の時刻(t+1)におけるステレオカメラの位置姿勢を推定する。」 第5 対比 1 本願発明と引用発明とを対比する。 (1)引用発明の「音源から生じる音をエンドユーザに優先的に伝達させる方法」は、「エンドユーザ50」が「拡張現実システム100」の提供を受けて行われるといえる。 そして、引用発明の「拡張現実システム100」は、「音源から生じる音をエンドユーザに優先的に伝達させる」点で「エンドユーザ」に人工的な現実をもたらすといえるものであり、本願発明の「人工現実(AR)デバイス」に相当し、かつ、本願発明の「デバイス」に含まれる。 よって、引用発明は、本願発明の「デバイスを提供すること」に相当する構成を含むものである。 (2)引用発明は、「拡張現実システム100」が「1つ又はそれ以上の前向きカメラ144を備え」るものであり、また、「前向きカメラ144」が、「エンドユーザ50が位置する環境及びその環境内の特定のオブジェクトに関するエンドユーザ50の頭部54の距離及び角度位置(すなわち、頭部が向けられる方向)を示す情報を捕捉することに適したものとされ」るものであるから、引用発明は、「拡張現実システム100」において、「1つ又はそれ以上の前向きカメラ144」によって「捕捉」される「エンドユーザ50が位置する環境及びその環境内の特定のオブジェクトに対するエンドユーザ50の頭部54の距離及び角度位置(すなわち、頭部が向けられる方向)を示す情報」の部分にアクセスすることを含むといえる。 ここで、当該「情報」の個数は、「前向きカメラ144」が「1つ又はそれ以上」であることに対応して、「1つまたは複数」である。 (3)引用発明は、「拡張現実システム100」が「音源へのエンドユーザの焦点合わせを検出し」、「マイクロホン素子アレイ250が音を優先的に受信する方向は、エンドユーザ50の検出された焦点合わせの方向に沿って設定され、この目的を達成するために、DSP256は、ユーザ配向検出モジュール148から、ユーザ50が焦点合わせしている方向を示す配向データを受信し、配向データは、前向きカメラ144によって検出された頭部54の角度位置に対応」するものであり、当該「前向きカメラ144によって検出された頭部54の角度位置に対応」する「配向データ」が、「エンドユーザ50が位置する環境及びその環境内の特定のオブジェクトに関するエンドユーザ50の頭部54の距離及び角度位置(すなわち、頭部が向けられる方向)を示す情報」に基づいていることは明らかである。 そうすると、引用発明の当該「情報」は、「エンドユーザ50が位置する環境」内の「エンドユーザ50」の「焦点合わせの方向」に存在する「音源」への指示(indication)を含むといえる。 ここで、「音源」の個数は当然に1つであり得るものであり、引用発明の当該「1つ」の「音源」と、本願発明の「少なくとも1つの音源」とは、「1つの音源」であるという限度で一致する(「1つ」の「音源」は「少なくとも1つの音源」に含まれる。)。 よって、引用発明の上記「情報」は、本願発明の「環境内の少なくとも1つの音源の指示を含む環境データ」に相当する。 (4)上記(2)、(3)について、上記(1)を踏まえると、引用発明は、本願発明の「前記デバイスにおいて、環境内の少なくとも1つの音源の指示を含む環境データの1つまたは複数の部分にアクセスすること」に相当する構成を有するものである。 (5)引用発明は、「拡張現実システム100」が「適応マイクロホンアセンブリ107を備え」、「マイクロホンアセンブリ107」が「マイクロホン素子250のフェーズドアレイを備え」、「オーディオ処理モジュール258」の「遅延素子260及びゲイン要素262」が「ある特定の角度の方向又は複数の方向から到達する音が他の角度の方向から到達する音よりも強調される結果となるように設定され」、「マイクロホン素子アレイ250が音を優先的に受信する方向は、エンドユーザ50の検出された焦点合わせの方向に沿って設定され」るものであり、ここで、「適応マイクロホンアセンブリ107」と「マイクロホンアセンブリ107」とが同じものを指し、「マイクロホン素子250のフェーズドアレイ」と「マイクロホン素子アレイ250」とが同じものを指していることは明らかである。 そうすると、引用発明の「拡張現実システム100」は、その「設定」可能な、「音を優先的に受信する方向」を、「エンドユーザ50の検出された焦点合わせの方向に沿って設定」するように構成された、「マイクロホン素子250のフェーズドアレイ」及び「遅延素子260及びゲイン要素262」を含むといえる。 そして、引用発明の「音を優先的に受信する方向」が「設定」可能であることは、本願発明の「オーディオビーム」が「ステアリング可能」であることに相当し、引用発明の「音を優先的に受信する方向」は当然に1つであり得るものであって、それを「設定する」ことと、本願発明の「1つまたは複数のオーディオビームを生成する」こととは、「1つのオーディオビームを生成する」ことであるという限度で一致する。 また、引用発明の「マイクロホン素子250のフェーズドアレイ」、「遅延素子260及びゲイン要素262」は、「音を優先的に受信する方向」が1つであることに対応して1つ(1組)であるといえるものであり、当該1つの「マイクロホン素子250のフェーズドアレイ」、「遅延素子260及びゲイン要素262」と、本願発明の「1つまたは複数のオーディオハードウェア構成要素」とは、「1つのオーディオハードウェア構成要素」であるという限度で一致する。 以上の点について、上記(1)を踏まえると、引用発明は、本願発明の「前記デバイスが、ステアリング可能な1つまたは複数のオーディオビームを生成するように構成された1つまたは複数のオーディオハードウェア構成要素を含」むことに相当する構成を有するものである。 (6)上記(1)から、引用発明は、本願発明の「前記デバイスが人工現実(AR)デバイスを含」むことに相当する構成を有するものである。 (7)上記(2)~(6)から、引用発明における、「拡張現実システム100」が「1つ又はそれ以上の前向きカメラ144を備え」、「前向きカメラ144」が、「エンドユーザ50が位置する環境及びその環境内の特定のオブジェクトに関するエンドユーザ50の頭部54の距離及び角度位置(すなわち、頭部が向けられる方向)を示す情報を捕捉することに適したものとされ」ること、「拡張現実システム100」が「音源へのエンドユーザの焦点合わせを検出し」、「マイクロホン素子アレイ250が音を優先的に受信する方向は、エンドユーザ50の検出された焦点合わせの方向に沿って設定され、この目的を達成するために、DSP256は、ユーザ配向検出モジュール148から、ユーザ50が焦点合わせしている方向を示す配向データを受信し、配向データは、前向きカメラ144によって検出された頭部54の角度位置に対応」すること、及び、「拡張現実システム100」が「適応マイクロホンアセンブリ107を備え」、「マイクロホンアセンブリ107」が「マイクロホン素子250のフェーズドアレイを備え」、「オーディオ処理モジュール258」の「遅延素子260及びゲイン要素262」が「ある特定の角度の方向又は複数の方向から到達する音が他の角度の方向から到達する音よりも強調される結果となるように設定され」ることと、本願発明における、 「前記デバイスにおいて、環境内の少なくとも1つの音源の指示を含む環境データの1つまたは複数の部分にアクセスすることであって、前記デバイスが、ステアリング可能な1つまたは複数のオーディオビームを生成するように構成された1つまたは複数のオーディオハードウェア構成要素を含み、前記デバイスが人工現実(AR)デバイスを含み、前記環境データが、前記ARデバイスによって取得される同時ロケーションおよびマッピング(SLAM)センサデータを含む、環境データの1つまたは複数の部分にアクセスすること」 とは、 「前記デバイスにおいて、環境内の少なくとも1つの音源の指示を含む環境データの1つまたは複数の部分にアクセスすることであって、前記デバイスが、ステアリング可能な1つまたは複数のオーディオビームを生成するように構成された1つまたは複数のオーディオハードウェア構成要素を含み、前記デバイスが人工現実(AR)デバイスを含む、環境データの1つまたは複数の部分にアクセスすること」 である点で共通する。 (8)引用発明は、上記(2)のとおり、「拡張現実システム100」において、「1つ又はそれ以上の前向きカメラ144」によって「捕捉」される「エンドユーザ50が位置する環境及びその環境内の特定のオブジェクトに対するエンドユーザ50の頭部54の距離及び角度位置(すなわち、頭部が向けられる方向)を示す情報」の部分にアクセスすることを含むといえるものであり、また、上記(3)のとおり、引用発明の「エンドユーザ50が位置する環境及びその環境内の特定のオブジェクトに関するエンドユーザ50の頭部54の距離及び角度位置(すなわち、頭部が向けられる方向)を示す情報」は、「エンドユーザ50が位置する環境」内の「エンドユーザ50」の「焦点合わせの方向」に存在する「音源」への指示(indication)を含むといえるものである。 さらに、引用発明は、「マイクロホン素子アレイ250が音を優先的に受信する方向」が「エンドユーザ50の検出された焦点合わせの方向に沿って設定され」るものである。 そうすると、引用発明は、アクセスされた上記「情報」に基づいて、「エンドユーザ50が位置する環境」内の「エンドユーザ50」の「焦点合わせの方向」を「検出」することを含むといえるものであり、ここで、「エンドユーザ50が位置する環境」内の「エンドユーザ50」の「焦点合わせの方向」を「検出」することは、本願発明の「前記環境内の前記音源のロケーションを識別すること」に相当する。 以上の点について、上記(3)でさらに検討した点を踏まえると、 引用発明における、アクセスされた上記「情報」に基づいて、「エンドユーザ50」の「焦点合わせの方向」「検出」することと、本願発明における、「前記SLAMセンサデータを含む、アクセスされた前記環境データに基づいて、前記環境内の前記音源のロケーションを識別すること」とは、「アクセスされた前記環境データに基づいて、前記環境内の前記音源のロケーションを識別すること」である点で共通する。 (9)上記(5)のとおり、引用発明の「拡張現実システム100」は、その「設定」可能な、「音を優先的に受信する方向」を、「エンドユーザ50の検出された焦点合わせの方向に沿って設定」するように構成された、「マイクロホン素子250のフェーズドアレイ」を含むといえるものであり、このことはすなわち、引用発明は、「拡張現実システム100」の「音を優先的に受信する方向」を「エンドユーザ50の検出された焦点合わせの方向」に「設定」することを含むということである。 この点について、上記(1)、上記(5)でさらに検討した点及び(8)を踏まえると、引用発明は、本願発明における、「前記デバイスの前記1つまたは複数のオーディオビームを前記環境内の前記音源の識別された前記ロケーションにステアリングすること」に相当する構成を有するものである。 (10)引用発明は、「デジタル信号プロセッサ(DSP)256を備え、これは、デジタルオーディオ信号を処理し、方向性オーディオ信号を出力する」ことを含むものであり、当該「処理」がコンピュータにおいて実装されたものであること、及び、当該「処理」によって「音源から生じる音をエンドユーザに優先的に伝達させる」ことがなされることはいずれも明らかである。 よって、引用発明の「音源から生じる音をエンドユーザに優先的に伝達させる方法」は、後述する相違点を除き、本願発明の「コンピュータ実装方法」に相当する。 2 したがって、本願発明と引用発明とは以下の点で一致する。 (一致点) 「デバイスを提供することと、 前記デバイスにおいて、環境内の少なくとも1つの音源の指示を含む環境データの1つまたは複数の部分にアクセスすることであって、前記デバイスが、ステアリング可能な1つまたは複数のオーディオビームを生成するように構成された1つまたは複数のオーディオハードウェア構成要素を含み、前記デバイスが人工現実(AR)デバイスを含む、環境データの1つまたは複数の部分にアクセスすることと、 アクセスされた前記環境データに基づいて、前記環境内の前記音源のロケーションを識別することと、 前記デバイスの前記1つまたは複数のオーディオビームを前記環境内の前記音源の識別された前記ロケーションにステアリングすることと を含む、コンピュータ実装方法。」 3 また、本願発明と引用発明とは以下の点で相違する。 (相違点) 本願発明では、「環境データ」が、「前記ARデバイスによって取得される同時ロケーションおよびマッピング(SLAM)センサデータ」を含むものであり、また、そのことから、「前記環境内の前記音源のロケーションを識別する」ことの基とする「アクセスされた前記環境データ」が、「前記SLAM)センサデータを含む」のに対して、引用発明では、「エンドユーザ50が位置する環境及びその環境内の特定のオブジェクトに関するエンドユーザ50の頭部54の距離及び角度位置(すなわち、頭部が向けられる方向)を示す情報」について、そのようなデータを含むものであることが特定されるものではない点。 第6 当審の判断 1 相違点について 上記相違点について検討する。 引用発明において、「拡張現実システム100」が備える「前向きカメラ144」が、「エンドユーザ50が位置する環境及びその環境内の特定のオブジェクトに関するエンドユーザ50の頭部54の距離及び角度位置(すなわち、頭部が向けられる方向)を示す情報を捕捉することに適したものとされ」るものであるから、引用発明は、「前向きカメラ144」の出力に基づいて「オブジェクト」を検出することについて示唆するものといえる。 加えて、引用発明は、「DSP256」が「再生された音の調性を適切に成形し、及び/又は、適切な反響、閉塞、又は妨害を追加し、部屋形状又は環境の実際的又は仮想的側面に適合させる」ものであるから、エンドユーザ50が所在する「部屋形状」を把握することについて示唆するものでもあるといえる。 また、例えば上記第4の3の引用文献4の記載からも明らかなように、AR(拡張現実)技術においてSLAMセンサデータを利用することは、一般的に行われていることである。上記第4の1(1)の引用文献2の記載及び同(2)の引用文献3の記載も、AR技術におけるSLAMセンサデータの利用を示すものといえる。 そうすると、引用発明の上記示唆に基づき、引用発明に上記第4の2(3)の「デバイスによって取得されるSLAMセンサデータを含む環境データに基づいて、物体を検出する」との周知技術を適用して、「拡張現実システム100」によって、「エンドユーザ50が位置する環境及びその環境内の特定のオブジェクトに関するエンドユーザ50の頭部54の距離及び角度位置(すなわち、頭部が向けられる方向)を示す情報」のみならず、「SLAMセンサデータ」が取得されるものとし、かつ、「SLAMセンサデータ」を含む上記「情報」に基づいて、「エンドユーザ50が位置する環境」内の「エンドユーザ50」の「焦点合わせの方向」を「検出」するものとして、相違点に係る構成とすることは、当業者が容易に想到し得ることである。 2 作用効果について 本願発明の作用効果は、引用発明及び周知技術から当業者が容易に予測し得る程度のものにすぎない。 3 請求人の主張について 請求人は審判請求書において、引用文献2には、本願発明のようにSLAM技術を用いて拡張オーディオ再生の技術的課題を解決することができる旨について開示も示唆も一切されていないから、引用文献2の構成を引用文献1と組み合わせる動機付けはなく、当業者が本願発明の構成に想到することはできない旨、主張している。 しかしながら、引用発明に上記1で述べた示唆があることからすれば、引用発明に周知技術を適用する動機付けはあるといえるから、請求人の上記主張は採用できない。 4 小括 よって、本願発明は、引用発明及び周知技術に基づいて当業者が容易に発明をすることができたものである。 第7 むすび 以上のとおり、本願発明は、引用文献1に記載された発明及び周知技術に基づいて、当業者が容易に発明をすることができたものであるから、特許法29条2項の規定により特許を受けることができない。 したがって、他の請求項に係る発明について検討するまでもなく、本願は拒絶すべきものである。 よって、結論のとおり審決する。

審決本文(J-PlatPat)

J-PlatPatの審決検索トップを開きます。番号入力で「審判番号」を選び、下の番号を貼り付けて検索してください。

J-PlatPat 審決検索を開く
2023-011470

番号・当事者・条文・審決分類・商標の称呼が一致(または近い)審決を機械的に集めた候補です。判断内容は各審決の本文でご確認ください。

同じ当事者の審決8件(メタ プラットフォームズ テクノロジーズ, リミテッド ライアビリティ カンパニー)
  • 2022-019906拒絶査定不服審判 / 2024-03-25 / 請求不成立ヘッドマウントディスプレイのための反射型円偏光子
    同じ当事者: メタ プラットフォームズ テクノロジーズ, リミテッド ライアビリティ カンパニー
  • 2023-007120拒絶査定不服審判 / 2024-03-11 / 原査定取消(特許/登録すべき)
    同じ当事者: メタ プラットフォームズ テクノロジーズ, リミテッド ライアビリティ カンパニー
  • 2023-000411拒絶査定不服審判 / 2023-11-30 / 請求不成立深度検知のためのプログラム可能回折光学素子を有するカメラアセンブリ
    同じ当事者: メタ プラットフォームズ テクノロジーズ, リミテッド ライアビリティ カンパニー
  • 2022-000139拒絶査定不服審判 / 2023-07-10 / 原査定取消(特許/登録すべき)深度マッピング用のアレイ検出器
    同じ当事者: メタ プラットフォームズ テクノロジーズ, リミテッド ライアビリティ カンパニー
  • 2022-018619拒絶査定不服審判 / 2023-06-19 / 請求不成立デジタル画素画像センサ
    同じ当事者: メタ プラットフォームズ テクノロジーズ, リミテッド ライアビリティ カンパニー
検索でもっと見る →
同じ論点・分野の審決(審決分類)2,453件(121・G06F)
  • 2025-005007拒絶査定不服審判 / 2026-08-19 / 原査定取消(特許/登録すべき)共有レコードのクライアント更新にルールの適用によるシステム生成更新のトリガ
    共通の審決分類: 121・G06F
  • 2024-009005拒絶査定不服審判 / 2026-08-18 / 原査定取消(特許/登録すべき)モジュール式空気冷却および分配システムおよび方法
    共通の審決分類: 121・G06F
  • 2025-008882拒絶査定不服審判 / 2026-08-18 / 原査定取消(特許/登録すべき)情報処理装置、認証器、それら方法およびプログラム
    共通の審決分類: 121・G06F
  • 2025-007124拒絶査定不服審判 / 2026-08-18 / 原査定取消(特許/登録すべき)記憶装置
    共通の審決分類: 121・G06F
  • 2025-014602拒絶査定不服審判 / 2026-08-13 / 原査定取消(特許/登録すべき)ペン入力装置用カバー部材、及びペン入力装置
    共通の審決分類: 121・G06F

メモ・タグ(非公開)

あなただけに表示されます。審決本文の公開範囲は変わりません。

メモとタグは Pro の機能です。ログイン/Proでメモを保存