
インターネットを前提とした視聴サービスが一般化し、ユーザーが能動的に視点を選んで体験を構成するインタラクティブなアプリケーションへの関心が高まっています。これに伴い、映像・音声だけでなく、それらが「いつ」「どこで」「どのように」記録されたのかという空間的・時間的な情報を統合的に扱う必要性が顕在化してきました。私たちは、こうした文脈情報を記述・共有可能とするために、Software Defined Media(SDM)オントロジーの設計と応用に取り組んできました。
SDMオントロジーは、映像・音声・センサーデータなどの「時空間メディア」と、それに関わる記録装置、処理システム、環境情報を柔軟に記述するためのメタデータ基盤です。コンサートやイベントの収録においては、マルチカメラ・マイク構成で得られたデータとその配置、対象オブジェクト、意味的なラベルをSDMオントロジーに基づいて整理し、Linked Open Data(LOD)として公開する取り組みを行っています。この設計は、参加者や制作者に限らず、第三者による再利用や応用的活用を容易にすることを意図しています。
このオントロジーを活用した代表的なアプリケーションが、Webベースのインタラクティブ視聴ツール「Web360²」です。Web360²はLODとして構造化された360度映像や空間音響をクエリによって取得し、ブラウザ上で視聴者が任意の視点・聴点から体験できるデータ駆動型のアプリケーションです。ユーザー評価を通じて、その直感的な操作性と高い没入感が確認されており、教育・芸術・エンタメなどへの波及が期待されています。
本研究は、視聴体験の多様性と拡張性を支える情報構造の提案として位置づけられます。今後は、時空間メディアとAIによる文脈理解の連携、都市空間の記録と再構成、メタバースとリアル空間を繋ぐハブ技術としての発展が見込まれています。
@article{Sone2023,
title = {An Ontology for Spatio-Temporal Media Management and an Interactive Application},
author = {Takuro Sone and Shin Kato and Ray Atarashi and Jin Nakazato and Manabu Tsukada and Hiroshi Esaki},
url = {https://github.com/sdm-wg/web360square-vue
https://tlab.hongo.wide.ad.jp/sdmo/},
doi = {10.3390/fi15070225},
issn = {1999-5903},
year = {2023},
date = {2023-06-23},
urldate = {2023-06-23},
journal = {Future Internet},
volume = {15},
number = {225},
issue = {7},
abstract = {In addition to traditional viewing media, metadata that record the physical space from multiple perspectives will become extremely important in realizing interactive applications such as Virtual Reality(VR), Augmented Reality(AR). This paper proposes the Software Defined Media (SDM) Ontology designed to describe spatio-temporal media and the systems that handle them comprehensively. Spatio-temporal media refers to video, audio, and various sensor values recorded together with time and location information. The SDM Ontology can flexibly and precisely represent spatio-temporal media, equipment, and functions that record, process, edit, and play them and related semantic information. In addition, we recorded classical and jazz concerts using many video cameras and audio microphones, and then processed and edited the video and audio data with related metadata. Then, we created a dataset using the SDM Ontology and published it as linked open data(LOD). Furthermore, we developed "Web360^2" an application that enables users to interactively view and experience 360-degree video and spatial acoustic sounds by referring to this dataset. We conducted a subjective evaluation by using a user questionnaire. Web360^2 is a data-driven web application that obtains video and audio data and related metadata by querying the Dataset.
},
keywords = {},
pubstate = {published},
tppubtype = {article}
}
@workshop{Atarashi2018,
title = {The Software Defined Media Ontology for Music Events},
author = {Ray Atarashi and Takuro Sone and Yu Komohara and Manabu Tsukada and Takashi Kasuya and Hiraku Okumura and Masahiro Ikeda and Hiroshi Esaki},
url = {https://hal.archives-ouvertes.fr/hal-01879099/document?.pdf},
doi = {10.1145/3243907.3243915},
year = {2018},
date = {2018-10-08},
urldate = {2018-10-08},
booktitle = {Workshop on Semantic Applications for Audio and Music (SAAM) held in conjunction with ISWC 2018},
pages = {15-23},
address = {Monterey, California, USA.},
abstract = {With the advent of viewing services based on the Internet, the importance of object-based viewing services for interpreting objects existing in space and utilizing them as the content is increasing. Since 2014, the Software Defined Media Consortium has been researching object-based media and Internet-based viewing spaces. This paper defines a framework in event participants and professional recorders each freely share recorded data, and a third party can create an application based on the data. This study aims to provide an SDM ontology-based contents management mechanism with a detailed description of the object-based audio and video data and the recording environment. The data can be shared via the Internet and is highly reusable. We implemented this management mechanism and have developed and validated applications that are capable of interactively playing 3D content from any viewpoints freely.},
keywords = {},
pubstate = {published},
tppubtype = {workshop}
}
@conference{菰原裕2017,
title = {SDM Ontology: Software Defined Mediaのメタデータ管理のためのOntology},
author = {菰原裕 and 塚田学 and 江崎浩 and 曽根卓朗 and 池田雅弘 and 高坂茂樹 and 新麗 and 新善文},
url = {http://tlab.hongo.wide.ad.jp/wp-content/uploads/2019/01/68C32929-95F4-42C0-81C6-8BB4D7E64D8E-2.pdf},
year = {2017},
date = {2017-06-20},
urldate = {2017-06-20},
booktitle = {マルチメディア,分散,協調とモバイル(DICOMO2017)シンポジウム},
address = {北海道札幌市},
abstract = {インターネットが広く普及し,全天球カメラのような新しい記録デバイスも登場している現代において,インターネットを前提としたオーディオビジュアルシステムの需要が高まっている.そのような状況において,Software Defined Media(SDM)コンソーシアムでは,オブジェクトベースのメディアとインターネットを前提とした環境における視聴空間の制御を目的として研究を進めている.本研究では,SDMが収録を行なったクラシックコンサートのデータをLinked Open Data(LOD)として保存・公開する為に"SDM Ontology"を作成した.その際,SDMのデータを適切に表現出来るようにクラスの構造やプロパティの種類を議論し,構築を行なった.},
keywords = {},
pubstate = {published},
tppubtype = {conference}
}
autonomous driving v2x
digital twins extended reality
digital twins
autonomous driving machine learning
machine learning v2x
autonomous driving v2x
extended reality