所属学科・専攻等 |
情報工学教育類 メディア情報分野
|
職名 |
准教授 |
通称等の別名 |
Sako Shinji |
連絡先 |
|
ホームページ |
|
外部リンク |
酒向 慎司 (サコウ シンジ)
SAKO Shinji
|
|
学外略歴
-
国際電気通信基礎技術研究所 研修研究員
2003年04月 - 2003年06月
国名:日本国
-
東京大学 大学院情報理工学系研究科 助手
2004年04月 - 2007年03月
国名:日本国
-
AGH科学技術大学 Faculty of Computer Science, Electronics and Telecommunications 客員研究員
2014年07月 - 2014年08月
国名:ポーランド共和国
-
ミュンヘン工科大学 ヒューマンマシンコミュニケーション研究所 客員研究員
2012年06月 - 2012年12月
国名:ドイツ連邦共和国
-
ミュンヘン工科大学 ヒューマンマシンコミュニケーション研究所 日本学術振興会国際共同研究加速基金研究者
2016年07月 - 2017年03月
国名:日本国
所属学協会
-
日本手話学会
2010年06月 - 現在
-
ヒューマンインタフェース学会
2010年06月 - 現在
-
電気関係学会東海支部連合大会実行委員会
2009年04月 - 2009年12月
-
高度言語情報融合フォーラム
2008年07月 - 現在
-
映像情報メディア学会
2007年10月 - 現在
論文
-
Dynamic Hand Gesture Recognition for Human-Robot Collaborative Assembly 査読あり 国際誌
Bogdan Kwolek, Shinji Sako
ICAISC 2023: Artificial Intelligence and Soft Computing, Lecture Notes in Computer Science 14125 112 - 121 2023年06月
担当区分:最終著者 記述言語:英語 掲載種別:研究論文(国際会議プロシーディングス)
In this work, we propose a novel framework for gesture recognition for human-robot collaborative assembly. It permits recognition of dynamic hand gestures and their duration to automate planning the assembly or common human-robot workspaces according to Methods-Time-Measurement recommendations. In the proposed approach the common workspace of a worker and Franka-Emika robot is observed by an overhead RGB camera. A spatio-temporal graph convolutional neural network operating on 3D hand joints extracted by MediaPipe is used to recognize hand motions in manual assembly tasks. It predicts five motion sequences: grasp, move, position, release, and reach. We present experimental results of gesture recognition achieved by a spatio-temporal graph convolutional neural network on real RGB image sequences.
-
3D Ego-Pose Lift-Up Robustness Study for Fisheye Camera Perturbations 査読あり 国際誌
Teppei Miura, Shinji Sako, Tsutomu Kimura
Proceedings of the 18th International Joint Conference on Computer Vision, Imaging and Computer Graphics Theory and Applications 4 600 - 606 2023年02月
記述言語:英語 掲載種別:研究論文(国際会議プロシーディングス)
3D egocentric human pose estimations from a mounted fisheye camera have been developed following the advances in convolutional neural networks and synthetic data generations. The camera captures different images that are affected by the optical properties, the mounted position, and the camera perturbations caused by body motion. Therefore, data collecting and model training are main challenges to estimate 3D ego-pose from a mounted fisheye camera. Past works proposed synthetic data generations and two-step estimation model that consisted of 2D human pose estimation and subsequent 3D lift-up to overcome the tasks. However, the works insufficiently verify robustness for the camera perturbations. In this paper, we evaluate existing models for robustness using a synthetic dataset with the camera perturbations that increases in several steps. Our study provides useful knowledges to introduce 3D ego-pose estimation for a mounted fisheye camera in practical.
-
Visualization of Affective Information in Music Using Chironomie 査読あり 国際誌
2022年09月
担当区分:最終著者 記述言語:英語 掲載種別:研究論文(国際会議プロシーディングス)
-
Simple yet effective 3D ego-pose lift-up based on vector and distance for a mounted omnidirectional camera 査読あり 国際誌
Teppei Miura, Shinji Sako
Applied Intelligence 2022年05月
記述言語:英語 掲載種別:研究論文(学術雑誌) 出版者・発行元:Springer
Following the advances in convolutional neural networks and synthetic data generation, 3D egocentric body pose estimations from a mounted fisheye camera have been developed. Previous works estimated 3D joint positions from raw image pixels and intermediate supervision during the process. The mounted fisheye camera captures notably different images that are affected by the optical properties of the lens, angle of views, and setup positions. Therefore, 3D ego-pose estimation from a mounted fisheye camera must be trained for each set of camera optics and setup. We propose a 3D ego-pose estimation from a single mounted omnidirectional camera that captures the entire circumference by back-to-back dual fisheye cameras. The omnidirectional camera can capture the user’s body in the 360∘ field of view under a wide variety of motions. We also propose a simple feed-forward network model to estimate 3D joint positions from 2D joint locations. The lift-up model can be used in real time yet obtains accuracy comparable to those of previous works on our new dataset. Moreover, our model is trainable with the ground truth 3D joint positions and the unit vectors toward the 3D joint positions, which are easily generated from existing publicly available 3D mocap datasets. This advantage alleviates the data collection and training burden due to changes in the camera optics and setups, although it is limited to the effect after the 2D joint location estimation.
-
3D skeleton motion generation of double bass from musical score 査読あり 国際誌
Takeru Shirai, Shinji Sako
15th International Symposium on Computer Music Multidisciplinary Research (CMMR) 41 - 46 2021年11月
記述言語:英語 掲載種別:研究論文(国際会議プロシーディングス)
In this study, we propose a method for generating 3D skeleton motions of a double bass player from musical score information using a 2-layer LSTM network. Since there is no suitable dataset for this study, we have created a new motion dataset with actual double bass performance. The contribution of this paper is to show the effect of combining bowing and fingering information in the generation of performance motion, and to examine the effective model structure in performance generation. Both objective and subjective evaluations showed that the accuracy of generating performance motion for double bass can be improved using two types of additional information (bowing, fingering information) and improved by constructing a model that takes into account bowing and fingering.
-
SynSLaG: Synthetic Sign Language Generator 査読あり 国際誌
Teppei Miura, Shinji Sako
ASSETS '21: The 23rd International ACM SIGACCESS Conference on Computers and Accessibility ( 90 ) 1 - 4 2021年10月
記述言語:英語 掲載種別:研究論文(国際会議プロシーディングス) 出版者・発行元:Association for Computing Machinery
Machine learning techniques have the potential to play an important role in sign language recognition. However, sign language datasets lack the volume and variety necessary to work well. To enlarge these datasets, we introduce SynSLaG, a tool that synthetically generates sign language datasets from 3D motion capture data. SynSLaG generates realistic images of various body shapes with ground truth 2D/3D poses, depth maps, body-part segmentations, optical flows, and surface normals. The large synthetic datasets provide possibilities for advancing sign language recognition and analysis.
-
Recognition of JSL fingerspelling using Deep Convolutional Neural Networks 査読あり 国際誌
Bogdan Kwolek, Wojciech Baczynski, Shinji Sako
Neurocomputing 2021年06月
記述言語:英語 掲載種別:研究論文(学術雑誌)
In this paper, we present approach for recognition of static fingerspelling in Japanese Sign Language on RGB images. Two 3D articulated hand models have been developed to generate synthetic fingerspellings and to extend a dataset consisting of real hand gestures.In the first approach, advanced graphics techniques were employed to rasterize photorealistic gestures using a skinned hand model. In the second approach, gestures rendered using simpler lighting techniques were post-processed by a modified Generative Adversarial Network. In order to avoid generation of unrealistic fingerspellings a hand segmentation term has been added to the loss function of the GAN. The segmentation of the hand in images with complex background was done by proposed ResNet34-based segmentation network. The finger-spelled signs were recognized by an ensemble with both fine-tuned and trained from scratch neural networks. Experimental results demonstrate that owing to sufficient amount of training data a high recognition rate can be attained on RGB images. The JSL dataset with pixel-level hand segmentations is available for download.
-
Fingerspelling recognition using synthetic images and deep transfer learning 査読あり
Nguyen Tu Nam, Shinji Sako, Bogdan Kwolek
2020 The 13th International Conference on Machine Vision (ICMV 2020) 2020年11月
記述言語:英語 掲載種別:研究論文(国際会議プロシーディングス)
Although gesture recognition has been intensely studied for decades, it is still a challenging research topic due to difficulties posed by background complexity, occlusion, viewpoint, lighting changes, the deformable and articulated nature of hands, etc. Numerous studies have shown that extending the training dataset with real images about synthetic images improves the recognition accuracy. However, little work is devoted to demonstrate what improvements in recognition can be achieved thanks to transferring the style onto synthetically generated images from the real gestures. In this paper, we propose a novel method for Japanese fingerspelling recognition using both real and synthetic images generated on the basis of a 3D hand model. We propose to employ a neural style transfer to include information from real images onto synthetically generated dataset. We demonstrate experimentally that neural style transfer and discriminative layer training applied to training deep neural models allow obtaining considerable gains in the recognition accuracy.
-
音韻検査のための非語の音声認識に有効な特徴量の検討 査読あり
多々納 俊治,縄手 雅彦,伊藤 史人,酒向 慎司
情報処理学会論文誌 61 ( 10 ) 1647 - 1657 2020年10月
記述言語:日本語 掲載種別:研究論文(学術雑誌) 出版者・発行元:情報処理学会
発達性ディスレクシアは学習障害の主要な症状の1つであり,早期発見は介入および読みの療育をするにあたって非常に重要である.PCを用いた簡易なスクリーニングテストが提案されており,テキストの読み上げの正確さ,単語の逆読み,文字の削除の能力についての評価データおよび回答潜時が自動的に記録される.しかし,正誤判定はテストの実施者によって行わなければならず,自動化が望まれている.正誤判定の部分を自動化するためには,検査の課題語にある意味を持たない言葉である非語に対応した音声認識技術が必要であるが,従来の音声認識では,非語に対する認識精度は低いのが現状である.そこで従来の音声認識の機能を補強しつつ,非語に対する正解率(accuracy)を音韻検査に実用できるレベルまで向上させなければならない.本研究では,ソースコードが無料で公開されており,自由に改造が可能な音声認識エンジンJuliusに非語の正誤を判別する機構を組み込むことにより,非語に対するaccuracyの向上を試みた.また,音声の特徴量に7つの候補をあげ,その組合せによるaccuracyの動向を検討した.その結果,対象の非語によっては75.0%から95.0%,全体の平均値は87.5%のaccuracyを得た.
-
3D human pose estimation model using location-maps for distorted and disconnected images by a wearable omnidirectional camera 査読あり 国際誌
Teppei Miura, Shinji Sako
IPSJ Transactions on Computer Vision and Applications 12 ( 4 ) 1 - 17 2020年08月
記述言語:英語 掲載種別:研究論文(学術雑誌) 出版者・発行元:Information Processing Society of Japan
We address a 3D human pose estimation for equirectangular images taken by a wearable omnidirectional camera. The equirectangular image is distorted because the omnidirectional camera is attached closely in front of a person’s neck. Furthermore, some parts of the body are disconnected on the image; for instance, when a hand goes out to an edge of the image, the hand comes in from another edge. The distortion and disconnection of images make 3D pose estimation challenging. To overcome this difficulty, we introduce the location-maps method proposed by Mehta et al.; however, the method was used to estimate 3D human poses only for regular images without distortion and disconnection. We focus on a characteristic of the location-maps that can extend 2D joint locations to 3D positions with respect to 2D-3D consistency without considering kinematic model restrictions and optical properties. In addition, we collect a new dataset that is composed of equirectangular images and synchronized 3D joint positions for training and evaluation. We validate the location-maps’ capability to estimate 3D human poses for distorted and disconnected images. We propose a new location-maps-based model by replacing the backbone network with a state-of-the-art 2D human pose estimation model (HRNet). Our model is a simpler architecture than the reference model proposed by Mehta et al. Nevertheless, our model indicates better performance with respect to accuracy and computation complexity. Finally, we analyze the location-maps method from two perspectives: the map variance and the map scale. Therefore, some location-maps characteristics are revealed that (1) the map variance affects robustness to extend 2D joint locations to 3D positions for the 2D estimation error, and (2) the 3D position accuracy is related to the 2D locations relative accuracy to the map scale.
書籍等出版物
-
菊澤律子・吉岡乾 編著 ほか( 担当: 分担執筆 , 範囲: 言語認識装置の進化)
図書出版 文理閣 2023年04月 ( ISBN:9784892599248 )
-
市川 熹, 長嶋 祐二, 岡本 明, 加藤 直人, 酒向 慎司, 滝口 哲也, 原 大介, 幕内 充( 担当: 共著 , 範囲: 第2章 音声とコミュニケーション障がい)
コロナ社 2021年07月 ( ISBN:9784339013429 )
MISC
-
ヒューマンコミュニケーション研究から見る未来のかたち 招待あり
新井田 統, 小森 智康, 酒向 慎司, 田中 章浩, 布川 清彦
電子情報通信学会誌 107 ( 3 ) 237 - 243 2024年03月
担当区分:最終著者 記述言語:日本語 掲載種別:記事・総説・解説・論説等(学術雑誌) 出版者・発行元:電子情報通信学会
その他リンク: https://www.journal.ieice.org/bin/pdf_link.php?fname=k107_3_237&lang=J&year=2024
-
共生社会実現に資する 論文作成・発表アクセシビリティガイドライン 招待あり
布川 清彦, 若月 大輔, 酒向 慎司
電子情報通信学会誌 106 ( 12 ) 1108 - 1114 2023年12月
担当区分:最終著者 記述言語:日本語 掲載種別:記事・総説・解説・論説等(学術雑誌) 出版者・発行元:電子情報通信学会
2023 年度に論文作成・発表アクセシビリティガイドラインはver. 4.0 へ改定された.本稿では,改定の経緯を紹介した上で,改定の社会的背景として,障害者差別解消法によって,学会や研究会に障害者が参加する際の合理的配慮の提供が義務化されたこととガイドラインとの関係について解説する.
その他リンク: https://www.journal.ieice.org/bin/pdf_link.php?fname=k106_12_1108&lang=J&year=2023
-
国際生活機能分類(ICF)と 論文作成・発表アクセシビリティガイドライン 招待あり
布川 清彦, 若月 大輔, 酒向 慎司
電子情報通信学会誌 106 ( 12 ) 1115 - 1119 2023年12月
担当区分:最終著者 記述言語:日本語 掲載種別:記事・総説・解説・論説等(学術雑誌) 出版者・発行元:電子情報通信学会
2023 年度に論文作成・発表アクセシビリティガイドラインはver 4.0 へ改定された.本稿では,障害を生活機能のマイ
ナス面として捉える世界標準の障害観である国際生活機能分類(ICF)について紹介し,ガイドラインとの関係について
解説する.その他リンク: https://www.journal.ieice.org/bin/pdf_link.php?fname=k106_12_1115&lang=J&year=2023
-
隠れマルコフモデルによる手話の音韻構造に基づいた自動手話認識
酒向 慎司, 北村 正
日本福祉工学学会誌 17 ( 2 ) 2 - 7 2015年11月
担当区分:筆頭著者 記述言語:日本語 掲載種別:記事・総説・解説・論説等(国際会議プロシーディングズ) 出版者・発行元:日本福祉工学会
手話認識の分野では,隠れマルコフモデル(Hidden Markov Model; HMM) に基づいた手法が提案されている.また,手話の動作情報を取得する方法として身体動作を直接計測するセンサ類を用いる方法も検討されてきたが,画像から動作情報を取得することで特殊な装置を要せず,身体的拘束のない手話認識が可能である.また,これまでの手話認識の研究では主に孤立単語を対象に行われてきており,単語ごとに個別のモデルを作成する場合,語彙の増加に伴ってモデル数が増加するため非効率であり,また手話のデータの収集は手間がかかり大規模化が難しい現状がある.そのため,音素のように単語間に共通した手話の構成素(サブユニット)を定め,それらの組合せから単語モデルを構成するアプローチが有望である.このような観点から,ビデオカメラで撮影された手話映像を用い,単語単位で学習された複数のHMMの状態パラメータを分類することで,単語間の共通要素をサブユニットとして集約する手法を検討してきた.本稿では,サブユニットの生成過程に手話の音韻構造を考慮することで,共通要素の集約を効率化する手法を提案する.
-
基礎講座 音声・音響インタフェース 第1回―HTSを用いた音声合成システムの構築 査読あり
大浦 圭一郎, 全 炳河, 酒向 慎司, 徳田 恵一
ヒューマンインタフェース学会誌 12 ( 1 ) 35 - 40 2010年02月
記述言語:日本語 掲載種別:記事・総説・解説・論説等(国際会議プロシーディングズ) 出版者・発行元:ヒューマンインタフェース学会
-
特集 音楽とOR―日本語歌詞からの自動作曲 招待あり
嵯峨山 茂樹,中妻 啓,深山 覚,酒向 慎司,西本 卓也
オペレーションズ・リサーチ 54 ( 9 ) 546 - 553 2009年10月
記述言語:日本語 掲載種別:記事・総説・解説・論説等(学術雑誌) 出版者・発行元:日本オペレーションズ・リサーチ学会
本稿では,任意の日本語テキストの持つ韻律に基づき,歌唱曲を自動作曲する手法について解説する.文学作品や自作の詩,ニュースやメールなど,あらゆる日本語テキストをそのまま歌詞として旋律を生成し,歌唱曲として出力する自動作曲システムは,手軽な作曲のツール,音楽の専門知識を持たない人のための作曲補助ツールとして有用であろう.さらに著作権問題の回避としても用途があろう.歌唱曲は歌詞との関連性が求められる.特に高低アクセントを持つ日本語では,発話音声にピッチの高低が付くため,歌詞を朗読する際の韻律と旋律が一致することが重要とされる.筆者らはこの点に着目し,ユーザが選択した和声,リズム,伴奏音形を拘束条件として,旋律を音高間を遷移する経路とし,韻律の上下動の制限の下で最適経路となる旋律を動的計画法により探索する問題として旋律設計を捉えた.このモデルに基づき,任意の日本語歌詞に,その韻律に一致した旋律を付ける自動作曲手法により自動作曲システムOrpheusを作成したので紹介する.
講演・口頭発表等
-
川地 奎多, 酒向 慎司
情報処理学会 第141回音楽情報科学研究会 2024年08月 情報処理学会
開催年月日: 2024年08月
記述言語:日本語 会議種別:口頭発表(一般)
開催地:駒澤大学 駒澤キャンパス
近年,音楽配信サービスの普及により,楽曲へのアクセス性が大幅に向上した.その一方で,音楽の聴取スタイルは受動的かつ BGM として消費する傾向が強まり,深く鑑賞する機会が減少しているのではないかと感じている.そこで,本研究では音楽を言語化して説明することがリスナーの音楽理解を助け,音楽体験の価値を向上させる手段の 1 つであると考えた.音楽の言語化は,音楽キャプションタスク(音楽に関する情報を自然言語の文章形式で記述するタスク)として近年盛んに研究されている.従来の研究では音響情報のみを用いて,楽曲に関する説明文を生成することに焦点が置かれていた.そこで,本研究では音響情報に加えて歌詞にも着目し,楽曲のレビュー文を生成することに試みた.具体的には音楽特徴抽出器と大規模言語モデル(LLM)を用いて音楽記述を生成する MU-LLaMA をベースラインモデルとし,LLaMA に事前に指示を与えるシステムプロンプトを設計することで,歌詞も考慮したレビュー文生成を実現した.さらに,3 つの評価実験を通じて,提案手法が従来手法よりも表現の多様性や楽曲のイメージ形成に有効であることを確認した.
-
アノテーション支援のための日本手話の映像データにおけるマウジング検出の検討
辰巳 花菜, 酒向 慎司
電子情報通信学会 第125回福祉情報科学研究会 2024年08月 電子情報通信学会
開催年月日: 2024年08月
記述言語:日本語 会議種別:口頭発表(一般)
開催地:はこだて未来大学(函館市)
本研究では,手話のアノテーション支援を目的とし,日本手話の口型の一種であるマウジング検出について検討を行った.口型とは,手話中に現れる口の動きのことを指す.現在,日本手話において,より大規模で汎用的なコーパスの開発が急務となっているが,手話の複雑性により,アノテーションは容易ではない作業とされている.そのため,自動アノテーションによるコーパス整備の効率化が望まれている.イギリス手話の大規模なデータ
セットであるBOBSLにおける自動アノテーションの研究[1]では,口型認識を用いた単語検出のアプローチを使用しており,これにより手指信号の認識だけでは検出が難しい語の検出を可能にしている.そこで本研究では,日本手話における口型認識に基づいて,音声言語由来の口の動きであるマウジングを検出する.本提案手法では,既存の機械読唇技術を用いて,日本手話における口型の認識を行う.そして,手話に対応した日本語音声の書き起こしテキスト内からマウジングの候補の語を特定し,口型認識の結果とマッチングさせることで,マウジングに相当する区間を特定する.また本研究では,日本手話映像を用いてマウジング検出の検証用にデータセットを作成し,その中で,マウジングの表出について調査した.その結果,表出パターンにはばらつきがみられ,提案手法におけるマウジング候補の特定方法をさらに検討する必要があることが分かった.最後に,口型のみの認識によるアノテーションの限界,そして,より正確なアノテーションのための手法の検討などの今後の方針を述べる. -
照明演出の支援を目的とした音楽音響信号に基づく照明色・明度・動きの推定とその評価
月東 菜乃, 酒向 慎司
情報処理学会 第140回音楽情報科学研究会 2024年05月 情報処理学会
開催年月日: 2024年05月
記述言語:日本語 会議種別:口頭発表(一般)
開催地:日本大学 文理学部キャンパス 百周年記念館
本研究では照明演出構成の支援を目的として,音楽をメインとして観客に聴かせ,多様な照明演出が施されることの多いポピュラー音楽コンサートを対象に,楽曲の特徴から自動で照明演出を決定する手法について検討する.楽曲音声に基づき推定された繰り返し構造ごとに楽曲の雰囲気に合った照明色・明るさ・動きを推定する.また,推定された照明演出のシミュレーション映像視聴による主観評価により本手法の有効性を確認した.
-
戴 梓軒, 酒向 慎司
電子情報通信学会 ヒューマンコミュニケーション基礎(HCS)研究会 2024年03月 電子情報通信学会
開催年月日: 2024年05月
記述言語:英語 会議種別:口頭発表(一般)
開催地:沖縄産業支援センター
-
論文作成・発表アクセシビリティガイドライン -共生社会実現に役立つ研究を進めるために-
布川 清彦, 若月 大輔, 酒向 慎司
電子情報通信学会 第124回福祉情報科学研究会 2024年03月 電子情報通信学会
開催年月日: 2024年03月
記述言語:日本語 会議種別:口頭発表(招待・特別)
開催地:筑波技術大学(春日キャンパス)
世界では,障害者を含め多様性による人類の進化を進める動きが加速している.日本においても,共生社会を実現するための法整備が進められてきた.ヒューマンコミュニケーショングループ(HCG)では,様々な人が研究に参加できることを目指して論文作成・発表アクセシビリティガイドライン[1]を作成し,その改定を進めてきた.本講演では,2023年度に行った論文作成・発表アクセシビリティガイドラインVer.4(以下,ガイドライン)への改訂の背景となるガイドラインの誕生から改訂にいたる経緯,障害者の権利に関する日本の法律である障害者差別解消法[2]について概説し,ガイドラインとの関係について述べる.
-
国際生活機能分類(ICF)と論文作成・発表アクセシビリティガイドライン
布川 清彦, 若月 大輔, 酒向 慎司
電子情報通信学会 第124回福祉情報科学研究会 2024年03月 電子情報通信学会
開催年月日: 2024年03月
記述言語:日本語 会議種別:口頭発表(招待・特別)
開催地:筑波技術大学(春日キャンパス)
本講演では,世界標準の障害観である国際生活機能分類(以後,ICFとよぶ. ICFはInternational Classification of Functioning, Disability and Healthの略)について概説し,ICFと2023年度に改訂された論文作成・発表アクセシビリティガイドラインVer.4(以下,ガイドラインとよぶ)[1]との関係について述べる.ICFでは,障害を生活機能のマイナス面としている.見えない・聞こえないといった身体や精神の特性だけではなく,その人の特性と環境とのミスマッチによって生活上の困難が生じている状況も含んでいる.そこから考えてみると,ユーザの特性に合わせた環境を作ることによって,その困難を解決して生活機能を高めること,つまり障害を低減して「できること」を増やせる可能性がある.ガイドラインは,障害のある研究者が他者と協働して研究を進めて行くときに有効な,研究者の特性に合わせた環境調整の具体例を示している.ガイドラインを利用する事により,研究活動時の障害を低減し,生活機能を高めることが期待できる.
-
照明演出の支援を目的とした楽曲の構造と雰囲気に基づく照明色・明度・動きの推定
月東 菜乃, 酒向 慎司
情報処理学会第86回全国大会 2024年03月 情報処理学会
開催年月日: 2024年03月
記述言語:日本語 会議種別:口頭発表(一般)
開催地:神奈川大学横浜キャンパス
本研究では,初心者が音楽コンサートにおける照明演出を構成する際の支援を目的とし,楽曲音声をもとに繰り返し構造に基づき分割された楽曲セグメントごとに照明色・明度・動きを決定する.実際の照明演出構成手順にならいながら照明効果を決定することで楽曲の雰囲気に合った照明演出の構成を目指す.
-
笠間 健太郎, 酒向 慎司
情報処理学会第86回全国大会 2024年03月 情報処理学会
開催年月日: 2024年03月
記述言語:日本語 会議種別:口頭発表(一般)
開催地:神奈川大学横浜キャンパス
本研究は手話の時間的構造に関係があるとされる手話中の呼吸を考慮することによる手話生成の自然性向上を目的として、手話データセットから呼吸情報を取得することを目指した研究である。既存の手話データセットの3次元データを用いて呼吸の推定を行い、推定された呼吸が手話特有の呼吸を示していることを検証する.
-
梅田 唯花, 酒向 慎司
情報処理学会第86回全国大会 2024年03月 情報処理学会
開催年月日: 2024年03月
記述言語:日本語 会議種別:口頭発表(一般)
開催地:神奈川大学横浜キャンパス
本研究は日本手話のデータ不足解消を目的として日本手話の自動アノテーションを目指した研究である。手話中の口型のアノテーションに焦点を当て、機械読唇のモデルを用いて日本手話における口型の検出と認識を検証する。検証には日本手話の映像をもとに作成したデータセットを使用し、手話中に表れる口型の検出と認識の精度を確認し、評価を行う。
-
Music Visualization using Chironomie 国際共著 国際会議
Kana Tatsumi, Shinji Sako, Rafael Ramirez
24nd International Society for Music Information Retrieval Conference 2023年11月 International Society for Music Information Retrieval
開催年月日: 2023年11月
記述言語:英語 会議種別:ポスター発表
開催地:Milan 国名:イタリア共和国
The purpose of this study is to debilitate the enjoyment of music for both hearing-impaired and normal-hearing individuals by visually representing music. In order to effectively and distinctively portray the musical rhythm, we focus on Chironomie, a conducting technique used in Gregorian chant. Generally, Chironomie is drawn by a curve that corresponds to the musical score, and this curve is determined by whether a short segment of the score represents one of two classes: Arsis or Thesis. In pursuit of our objective, our endeavors encompass two essential facets: the adaptation of Chironomie for Western tonal music to express intuitively perceivable musical features like tension and relaxation, and the evaluation whether Chironomie can effectively convey music visually. We report an automated method for estimating Arsis and Thesis within composite beats to generate Chironomie. Additionally, it presents evaluation experiments involving normal-hearing to assess the effectiveness of Chironomie.
産業財産権
-
単語決定システム
青井基行,赤津 舞子,三浦 七瀬,酒向 慎司
出願人:株式会社ユニオンソフトウェアマネイジメント,国立大学法人 名古屋工業大学
出願番号:特願2018-048022 出願日:2018年03月
出願国:国内 取得国:国内
-
飲酒状態判定装置及び飲酒状態判定方法
岩田 英三郎, 酒向 慎司
出願番号:PCT/JP2010/062776 出願日:2010年07月
公開番号:特開2011-553634 公開日:2012年06月
出願国:国内 取得国:国内
本発明は、キーワードのような特定の言葉の利用を前提としない飲酒判定を可能とするものである。飲酒モデルは、飲酒者の音声の音響特徴による分類基準を用いた木構造を有する。この木構造におけるノードは、飲酒者の音素における音響特徴を示す。非飲酒モデルは、非飲酒者の音声の音響特徴による分類基準を用いた木構造を有する。この木構造におけるノードは、非飲酒者の音素における音響特徴を示す。まず、対象者の音声データを、飲酒モデルと非飲酒モデルのそれぞれの木構造に適用して、音素の音響特徴をノードに振り分ける。つぎに、対象者の音素の音響特徴と、各モデルにおける各ノードで特定された音響特徴との尤度を計算する。つぎに、算出された尤度の値を用いて、当該音声の音響特徴が、飲酒モデル及び非飲酒モデルのうちのどちらに近いかを判別する。
-
音声合成方法及び装置
嵯峨山 茂樹, 槐 武也, 酒向 慎司, 松本 恭輔, 西本 卓也
出願番号:特願2005-304082 出願日:2005年10月
公開番号:特開2007-114355 公開日:2007年05月
出願国:国内 取得国:国内
【課題】高品質の合成音声を提供すると共に、加工性に優れた音声合成手法を提供する。【解決手段】音声のスペクトル包絡を混合ガウス分布関数で近似することで少数のパラメータによって音声スペクトルを表現して分析パラメータを得る。そして、この混合ガウス分布関数の逆フーリエ変換であるGabor関数の重ね合わせを基本波形とし、それをピッチ周期ごとに配置して有声音を合成する。ピッチ周期をランダムにすれば無声音も合成できる。
-
音声認識装置及びコンピュータプログラム
山口 辰彦, 酒向 慎司, 山本 博史, 菊井 玄一郎
出願人:株式会社国際電気通信基礎技術研究所
出願番号:特願2003-317559 出願日:2003年09月
公開番号:特開2005-84436 公開日:2005年03月
出願国:国内 取得国:国内
課題】あるモデルによる音声認識の誤りを、他のモデルによる音声認識結果で置換する際に、最終的な音声認識の精度を高める。【解決手段】音声認識装置は、N−グラムモデルを用いて音声認識を行ない、N−グラム候補44及び信頼度尺度を出力する音声認識部40、音声認識部40からのN−グラム候補44に対し、正誤を判別するように最適化された予備判別部46、予備判別部46が誤りと判定した箇所について、用例文モデルを用いて音声認識を行ない、用例文候補52と信頼度を算出する用例候補選択部50、N−グラム候補44を用例文候補52で置換するか否かを判別し最終の音声認識結果28を出力する最終判別部54とを含み、予備判別部46は、学習により得られた判別基準より多くの誤りを検出するようにバイアスした判別基準を用いて判別する。
Works(作品等)
-
論文作成・発表アクセシビリティガイドライン (Ver.4.0)
井上 正之, 苅田 知則, 今野 順, 坂本 隆, 酒向 慎司, 塩野目 剛亮, 布川 清彦, 南谷 和範, 宮城 愛美, 若月 大輔
2023年04月
作品分類:教材
電子情報通信学会ヒューマンコミュニケーショングループ(HCG)は,福祉情報工学研究会(WIT)を中心に,2005年に障害のある人が学会や研究会などの研究活動に参加できることを目指して,聴覚障害,視覚障害のある方への情報保障を中心とした学会や研究会参加におけるバリア(手話通訳がない,資料が点字化されていないなど)を無くすための論文作成,プレゼンテーション資料作成,および発表時の情報保障に関するアクセシビリティガイドラインを公開しました.2005年の公開以降,社会も技術も大きく変化してきています.この変化に対応するため,今回,大幅な改訂を行いました.
2001年12月の国連総会で「障害者の権利及び尊厳を保護・促進するための包括的・総合的な国際条約」に関する決議案が採択されました.日本は2007年にこの条約に署名し,2012年に「障害者の日常生活及び社会生活を総合的に支援する法律」,2013年に「障害を理由とする差別の解消の推進に関する法律(障害者差別解消法)」と「障害者の雇用の促進等に関する法律」を改正して法的な整備を整え,2014年に日本国内で条約が発効されました.また,2001年に世界保健機関(WHO)が採択した国際障害分類(ICF)における構成要素間の相互作用を示す図では,障害はある特性を持った人とその人を取り巻く環境との関係から生じることを示しています.障害者差別解消法では,会社やお店,学会や研究会といった事業者に対して障害のある人に「合理的配慮」を提供するように求めています.合理的配慮の提供は環境側にあるバリアを無くすことを意味しています.アクセシビリティガイドラインは,この合理的配慮に関わるものです.そして,環境側にあるバリアを技術の面から無くすことはWITの使命です.
WITや他のHCGの先輩方のアクセシビリティガイドライン作成は,共生社会の実現・多様性への対応を先取りするものでした.この取り組みを継続し,アップデートしていくことは,後に続く者の仕事です.「全ての人が自分の志した道にチャレンジできる」WITは,これからもそのような社会を支える研究活動を続けて行きます.学会や研究会で利用されていたプレゼンテーションの方法は,現在では学会や研究会だけではなく,広く社会で利用されるようになってきています.このガイドラインを多くの学会・研究会や会社,お店などでお使いいただき,ご意見,コメント,改善案などをお寄せいただけないでしょうか.全ての人に情報を届けることができるように,皆様と一緒に改良を続けて行きたいと思います. -
工学院大学 多用途型日本手話言語データベース(KoSign)第2期
長嶋 祐二, 原 大介, 堀内 靖雄, 酒向 慎司
2022年10月
作品分類:データベース
科研費基盤研究(S)「多用途型日本手話言語データベース構築に関する研究」(17H06114)により,多様な研究分野で利用できる汎用的な手話映像データベースの作成を目的として,プロジェクトで選定した6,000超の手話単語と数対話について,できる限り高精細・高精度のデータを収録したデータセットです。撮影対象者は手話ネイティブ家系の日本手話母語者2名(男性1名,女性1名)で,撮影は2017年~2019年にかけて東映東京撮影所のモーションキャプチャスタジオにて実施されました。正面と左右に設置した4KまたはフルHDカメラによる手話映像データ(オリジナルのMXF形式とmp4形式)に加え,光学式モーションキャプチャによる3次元動作データ(BVH形式,C3D形式,FBX形式)と,Kinectセンサによる深度データ(Kinect v2のxef形式)も同時に収録しています。第2期提供分として,1,172単語と7対話のデータを提供します。
-
国立民族学博物館特別展示 Homō loquēns 「しゃべるヒト」~ことばの不思議を科学する~
長嶋 祐二, 原 大介, 堀内 靖雄, 酒向 慎司
2022年09月 - 2022年11月
作品分類:データベース 発表場所:国立民族学博物館
国立民族学博物館特別展示 Homō loquēns 「しゃべるヒト」~ことばの不思議を科学する~に高精度手話データベースKoSignを紹介する技術展示を行った。手話をモーションキャプチャすることによって、手話の手指の動きや顔の表情の変化を精密なデジタルデータとして記録することができます。日常で使われる数千語の日本手話を記録した膨大なデータによって手話言語の分析やアバターによって手話を表現させることができます。
-
工学院大学 多用途型日本手話言語データベース(KoSign)
長嶋 祐二, 原 大介, 堀内 靖雄, 酒向 慎司
2021年06月
作品分類:データベース
科研費基盤研究(S)「多用途型日本手話言語データベース構築に関する研究」(17H06114)により,多様な研究分野で利用できる汎用的な手話映像データベースの作成を目的として,プロジェクトで選定した6,000超の手話単語と数対話について,できる限り高精細・高精度のデータを収録したデータセットです。撮影対象者は手話ネイティブ家系の日本手話母語者2名(男性1名,女性1名)で,撮影は2017年~2019年にかけて東映東京撮影所のモーションキャプチャスタジオにて実施されました。正面と左右に設置した4KまたはフルHDカメラによる手話映像データ(オリジナルのMXF形式とmp4形式)に加え,光学式モーションキャプチャによる3次元動作データ(BVH形式,C3D形式,FBX形式)と,Kinectセンサによる深度データ(Kinect v2のxef形式)も同時に収録しています。当初は第1期提供分として,3,701単語と3対話のデータならびに専用解析ツール(描画・アノテーション支援システム)を提供します。データサイズは計約3.6TBです。(残りの単語・対話データも後日追加される予定です)
-
Teppei Miura, Shinji Sako
2020年08月
作品分類:データベース
The dataset comprises of 7 subjects, covering the 16 sentences with 3-4 times per subject.
Archived dataset size is 1.52 GB.
The dataset-tree is comprised such as below:
NIT-3DHP-OMNI
+ A (personal ID for paper)
| + 011001001 (personal ID & sentence & times for each 3 digit)
| | + input
| | | + 0000000001.jpg (RGB image)
| | | + 0000000002.jpg
| | | + ...
| | |
| | + target
| | + 0000000001.txt (3D joint positions)
| | + 0000000002.txt
| | + ...
| |
| + 011001002 ...
|
+ B ...
The target text holds 3D joint positions data such as below order:
-------------------
Time Stamp
Head
Neck
Torso
Waist
Left Shoulder
Right Shoulder
Left Elbow
Right Elbow
Left Wrist
Right Wrist
Left Hand
Right Hand
------------------- -
Pressivo: 旋律の演奏表情を考慮した自動伴奏生成システム
宮田 佳奈, 酒向 慎司, 北村 正
2014年02月
作品分類:ソフトウェア 発表場所:インタラクション2014
-
A stochastic model of artistic deviation and its musical score for the elucidation of performance expression
K. Okumura,S. Sako,T. Kitamura
2013年08月
作品分類:ソフトウェア 発表場所:Stockholm, Sweden
http://smac2013.renconmusic.org/
-
Ryry: 多声楽器に対応可能な音響入力自動伴奏システム
山本 龍一,酒向 慎司,北村 正
2013年03月
作品分類:ソフトウェア 発表場所:情報処理学会シンポジウム インタラクション2013
Ryry(リリー)は、楽譜に基づく人間の演奏音響信号を入力として、実時間で演奏位置を認識、予測し、同期した伴奏を自動的に再生する自動伴奏システムです。
-
音楽印象データベース
酒向慎司,岩月靖典,西尾圭一郎,北村正
2013年03月
作品分類:ソフトウェア
-
自動作曲システム Orpheus
嵯峨山茂樹,他
2013年01月
作品分類:ソフトウェア
その他研究活動
-
研究用マルチモーダル音声データベース M2TINIT
2003年03月
研究用マルチモーダル音声データベース M2TINIT (Multi-Modal Speech Database by Tokyo Institute of Technology and Nagoya Institute of Technology) は、マルチモーダル音声研究の推進のため、東京工業大学大学院院総合理工学研究科 小林隆夫研究室および名古屋工業大学知能情報システム学科 北村・徳田研究室が開発・公開する音声・唇動画像同時収録データベースです。これまでに音声・唇動画像の生成やバイモーダル音声認識の研究に利用されています。
受賞
-
音楽情報科学研究会(MUS) ベストプレゼンテーション賞 Best New Direction部門
2024年08月 情報処理学会 音響情報と歌詞を用いた楽曲のレビュー文生成
川地 奎多, 酒向 慎司
受賞区分:国内学会・会議・シンポジウム等の賞 受賞国:日本国
近年,音楽配信サービスの普及により,楽曲へのアクセス性が大幅に向上した.その一方で,音楽の聴取スタイルは受動的かつ BGM として消費する傾向が強まり,深く鑑賞する機会が減少しているのではないかと感じている.そこで,本研究では音楽を言語化して説明することがリスナーの音楽理解を助け,音楽体験の価値を向上させる手段の 1 つであると考えた.音楽の言語化は,音楽キャプションタスク(音楽に関する情報を自然言語の文章形式で記述するタスク)として近年盛んに研究されている.従来の研究では音響情報のみを用いて,楽曲に関する説明文を生成することに焦点が置かれていた.そこで,本研究では音響情報に加えて歌詞にも着目し,楽曲のレビュー文を生成することに試みた.具体的には音楽特徴抽出器と大規模言語モデル(LLM)を用いて音楽記述を生成する MU-LLaMA をベースラインモデルとし,LLaMA に事前に指示を与えるシステムプロンプトを設計することで,歌詞も考慮したレビュー文生成を実現した.さらに,3 つの評価実験を通じて,提案手法が従来手法よりも表現の多様性や楽曲のイメージ形成に有効であることを確認した.
-
2023年12月 電子情報通信学会福祉情報工学研究会 聴覚障害者の音楽体験支援のためのChironomieによる音楽可視化手法の提案
辰巳 花菜, 酒向 慎司
受賞区分:国内学会・会議・シンポジウム等の賞 受賞国:日本国
本研究のねらいは,聴覚障害者と健聴者が共に音楽を楽しむために,グレゴリオ聖歌の指揮法であるChironomieを用いて音楽を可視化することである.この目標達成には,Chironomieを西洋調性音楽に適用して聴覚では直感的に得られる音楽特徴である緊張の高まりや緩みを表現することと,Chironomieにより音楽が視覚的に伝達できるかを評価することが課題である.本報告では,西洋クラシック音楽やその派生音楽を対象とし,Chironomieを描画するために複合拍に対するArsisとThesisを自動推定する手法の検討と,健聴者を対象とした評価実験によるChironomieの有用性の調査結果を報告する.
-
日本音響学会東海支部優秀発表賞
2023年12月 日本音響学会東海支部 Chironomieに準ずる旋律線による音楽の可視化
辰巳 花菜
受賞区分:国内学会・会議・シンポジウム等の賞 受賞国:日本国
-
第27回東海地区音声関連研究室修士論文中間発表会総合3位
2023年08月 静岡大学 Chironomieに準ずる旋律線による音楽の可視化
辰巳 花菜
受賞区分:国内学会・会議・シンポジウム等の賞 受賞国:日本国
-
日本音響学会東海支部優秀発表賞
2021年12月 日本音響学会東海支部 ラウドなポピュラー音楽を対象としたダイナミクスの自動生成
尾関 日向
受賞区分:国内学会・会議・シンポジウム等の賞 受賞国:日本国
-
音楽情報科学研究会(MUS) 学生奨励賞
2021年09月 情報処理学会 ラウドなポピュラー音楽のダイナミクス復元
尾関 日向, 酒向 慎司
受賞区分:国内学会・会議・シンポジウム等の賞 受賞国:日本国
-
日本知能情報ファジィ学会論文賞
2017年09月 日本知能情報ファジィ学会 楽譜と表情を関連付けた統計モデルに基づく鍵盤楽器演奏の自動生成手法
奥村 健太, 酒向 慎司, 北村 正
受賞区分:学会誌・学術雑誌による顕彰 受賞国:日本国
本稿では,特定の演奏者が持つ表情の特徴に忠実な演奏の自動生成を目的とした手法を提案する.多くの既存手法は演奏生成に際して演奏者が有するような専門知識の入力を必要とする.それらは使用者自身が演奏者として介在する用途には有用であるが,本提案の目的には不向きである.提案手法では演奏者による実際の演奏事例から得られる表情の特徴に対し,楽譜から専門知識を用いることなく得られる情報を関連付けたモデルを定義する.さらに楽譜の指示を基準に用い,個々の演奏事例について定義したモデル群をその表情の特徴別に分類することで,任意の演奏事例に付与された表情の特徴と楽譜の指示との因果関係を体系的に記述した規則を構造化できる.この構造を辿ることで,未知の楽譜の指示に対応する演奏事例の候補が得られる.これらの候補の中から最適な表情を備えた演奏事例の系列を探索する問題を,動的計画法の適用によって解決する.客観評価実験により,提案手法は最適な事例の系列を効率的に探索できることを示した.また,主観評価実験によって提案手法による表情の品質の高さを確認したほか,多様な楽曲で演奏者に忠実な表情の特徴を再現できることを示した.なお,提案手法による演奏は,自動演奏表情付けシステムのコンテストにおいて自律生成部門の第1位を獲得している.
-
情報処理学会山下記念研究賞
2016年03月 情報処理学会 楽譜と表情を関連付けた統計モデルに基づく楽器演奏の比較分析の検討
奥村 健太, 酒向 慎司, 北村 正
受賞区分:国内学会・会議・シンポジウム等の賞 受賞国:日本国
本稿では,楽器演奏に付与される表情について,特定の演奏者と楽曲の組合せにおける比較分析を行う問題を考える.表情付けに寄与する要因を説明可能な枠組みとして,表情の特徴量を近似した生成モデルに楽譜の指示を関連付け,各特徴量の生成過程を楽譜の指示に基づく規則を用いて体系化する手法が提案されている.本稿ではその体系の構築過程に着目し,表情付けに寄与した規則について,その寄与の度合いや関係性を楽譜の指示に基づき分析する手法を提案する.また,複数の楽曲と演奏者による演奏の組合せを用い,その有用性を検討する.
-
情報処理学会第78回全国大会学生奨励賞
2016年03月 情報処理学会 自動ジャズアレンジのための事例に基づくメロディ変形
佐藤 直人, 酒向 慎司, 北村 正
受賞区分:国内学会・会議・シンポジウム等の賞 受賞国:日本国
本研究では原曲メロディの自動ジャズアレンジを目的とし、事例を用いてリズムと音高に関するジャズ特有の変化パターンをモデル化することにより、メロディをジャズ風に変形させる手法を提案する。提案手法では、原曲とジャズアレンジされた曲のペアからなる事例データを用意し、セグメンテーションと抽象化により、原曲とアレンジ後の対応付けを行う。入力された原曲メロディが変化し得るリズムと音高のアレンジパターンを事例データから探索し、動的計画法により最適なアレンジ系列を出力する。
-
学会活動貢献賞
2014年03月 日本音響学会東海支部
酒向 慎司
受賞国:日本国
科研費(文科省・学振)獲得実績
-
一人称視点映像を用いた手話対話の支援技術および記録技術基盤の構築
研究課題/領域番号:23K11197 2023年04月 - 2026年03月
日本学術振興会 科学研究費補助金 基盤研究(C)
酒向 慎司
担当区分:研究代表者 資金種別:競争的資金
我々は深層学習を用いた手話翻訳システムを開発しているが,これを実現するには手話認識や意味解析などが必要である.それらには手話コーパスの構築や教師あり学習による深層学習向けのラベル付きデータが大量に必要であるが,ラベル付けには手間がかかる.そこで本研究ではラベルがない手話動画に対して,ラベル付けを半自動的に行うシステムを開発・公開する.本研究では,このシステムを用いて作成したラベル付き手話データセットを手話言語学研究者や手話工学研究者らに提供し,手話の意味解析や手話認識に関する研究をサポートする.
-
自己教師あり学習手法による手話認識エンジンの開発
研究課題/領域番号:23747929 2023年04月 - 2025年03月
日本学術振興会 科学研究費補助金 挑戦的萌芽研究
木村 勉(研究代表)
担当区分:研究分担者 資金種別:競争的資金
-
手話コーパス,深層学習向けラベル付き手話データ半自動生成システムの開発
研究課題/領域番号:22H00661 2022年04月 - 2026年03月
日本学術振興会 科学研究費補助金 基盤研究(B)
木村 勉
担当区分:研究分担者 資金種別:競争的資金
我々は深層学習を用いた手話翻訳システムを開発しているが,これを実現するには手話認識や意味解析などが必要である.それらには手話コーパスの構築や教師あり学習による深層学習向けのラベル付きデータが大量に必要であるが,ラベル付けには手間がかかる.そこで本研究ではラベルがない手話動画に対して,ラベル付けを半自動的に行うシステムを開発・公開する.本研究では,このシステムを用いて作成したラベル付き手話データセットを手話言語学研究者や手話工学研究者らに提供し,手話の意味解析や手話認識に関する研究をサポートする.
-
音声認識手法を応用した自動作曲・自動作詞・自動伴奏の研究
研究課題/領域番号:21H03462 2021年04月 - 2024年03月
日本学術振興会 科学研究費補助金 基盤研究(B)
嵯峨山 茂樹
担当区分:研究分担者 資金種別:競争的資金
我々は深層学習を用いた手話翻訳システムを開発しているが,これを実現するには手話認識や意味解析などが必要である.それらには手話コーパスの構築や教師あり学習による深層学習向けのラベル付きデータが大量に必要であるが,ラベル付けには手間がかかる.そこで本研究ではラベルがない手話動画に対して,ラベル付けを半自動的に行うシステムを開発・公開する.本研究では,このシステムを用いて作成したラベル付き手話データセットを手話言語学研究者や手話工学研究者らに提供し,手話の意味解析や手話認識に関する研究をサポートする.
-
視覚障害者が能動的に白杖で叩くことによる音情報の作製と利用に関する基礎的研究
研究課題/領域番号:18K18698 2018年04月 - 2022年03月
日本学術振興会 科学研究費補助金 挑戦的萌芽研究
布川 清彦
担当区分:研究分担者 資金種別:競争的資金
受託研究受入実績
-
繊維産業に於けるAI自動検査システムの構築に関する研究開発
2022年10月 - 2025年03月
愛知県 知の拠点あいち重点研究プロジェクト プロジェクトDX 一般受託研究
担当区分:研究分担者 資金種別:産学連携による資金
本課題では繊維産業の自動化のために、画像処理を用いた繊維の検品工程の自動化と、音響処理技術を用いた織機の異常検知の自動
化を目指す。繊維産業を含む全ての製造産業において、製品のチェックを行う検品工程は、製品の信頼性を担保するため重要であ
る。しかし、繊維産業における検品はほぼ全て熟練者による目視で行われており、自動化による効率化を妨げている。また、製造機械
のメンテナンスも同様に製品の信頼性向上に不可欠であるが、こちらの故障検知についても同様に人の経験に基づくところが大きい。
そこで本課題では、繊維を観測した画像を画像処理技術により解析することで、検品を自動化する方法を目指す。同様に織機が発する
音を音響処理技術により解析することで、織機の異常を検知する方法の確立を目指す。以上のように、本課題ではAIに基づく画像処
理・音響処理技術を利用することで、繊維産業における検査工程を自動化することを目指す。 -
手話の自動翻訳を実現させる高精度な動作検出と動作のパターンマッチングの技術開発
2016年10月 - 2019年03月
経済産業省 戦略的基盤技術高度化支援事業(サポイン) 一般受託研究
青井 基行
担当区分:研究分担者 資金種別:競争的資金
-
2015年01月 - 2015年12月
科学技術振興機構 研究成果最適展開支援事業(A-STEP)FSステージ 一般受託研究
酒向 慎司
担当区分:研究代表者 資金種別:競争的資金
配分額:2210000円 ( 直接経費:1700000円 、 間接経費:510000円 )
本研究では、自動演奏システムにおいて重要な要素技術である、演奏追跡技術の高精度化と、演奏追跡技術を応用した人間の演奏に同期するロボットの開発を行った。演奏追跡技術では、楽譜の情報を活用することで、テンポ変動を把握しやすい打楽器音とそれ以外の楽器種別を考慮した新たな演奏追跡モデルを提案し、演奏追跡精度の改善を確認した。演奏に追従するロボットの開発では、テンポ変動を含んだ演奏情報にリアルタイムで追従しロボットを制御するシステムを産業ロボットメーカーと共同で開発し、国際ロボット展に出展し実演した。
-
多様な利用形態に柔軟に対応する自動伴奏リハビリ支援システムの開発
2013年08月 - 2014年03月
科学技術振興機構 研究成果最適展開支援事業(A-STEP)FSステージ 一般受託研究
酒向 慎司
担当区分:研究代表者 資金種別:競争的資金
配分額:2210000円 ( 直接経費:1700000円 、 間接経費:510000円 )
楽器の演奏は趣味として楽しむだけでなく、複雑な身体動作を伴うことから身体機能や脳機能のリハビリとしても期待できる。楽器演奏によるリハビリ支援で重要なポイントは、支援の度合いが人それぞれであり、利用者の要望や制約に柔軟に対処できることが重要となる。利用者を問わない楽器演奏によるリハビリ支援システムの構築を念頭に、楽器の違いに頑健なスペクトルテンプレートの自動適応手法の検討、テンポ推定精度の高度化を検討するほか、実際の演奏におけるテンポ推定誤りの影響などを調査した。また、計算量と性能の関係を調査するとともに、実時間処理に向けたアルゴリズムの改善を行った。
-
ユーザーの嗜好と利用シーンの変動に対応可能な統計モデルに基づいた楽曲からの感性推定モデルの研究
2011年08月 - 2012年03月
科学技術振興機構 研究成果最適展開支援事業(A-STEP)FSステージ 一般受託研究
酒向 慎司
担当区分:研究代表者 資金種別:競争的資金
配分額:2210000円 ( 直接経費:1700000円 、 間接経費:510000円 )
音楽から受ける印象を楽曲の電子データから直接推定する印象推定システムにおいて、個人の嗜好や感性の違いに対応するため、性別や音楽経験などからなるプロフィールを利用する新たな手法を開発した。この手法の特徴として、印象推定モデルを学習するための音楽を聴いたときの印象データを事前に収集する必要がなく、他者の印象推定モデルから、特定の利用者に合った(類似した)モデルをプロフィールの情報に基づいて自動選択することができる。また、音楽を聴いた際の印象データを短期間で効率的に収集するため、Webブラウザを利用した楽曲提示と印象データ収集システムを構築し、様々な年代を含む120名の大規模な印象評価データを収集した。
担当経験のある授業科目(学外)
-
大学院工学研究科博士前期課程 数理情報特論
2023年04月 - 現在 機関名:名古屋工業大学
科目区分:大学院専門科目
-
第二部電子情報工学科 計算機基礎
2022年04月 - 2024年03月 機関名:名古屋工業大学
科目区分:学部専門科目
-
情報学専攻研究科共通科目 情報資源総論
2021年06月 - 現在 機関名:静岡大学
科目区分:大学院教養科目
-
大学院工学研究科博士前期課程 数理情報特論
2020年04月 - 2021年03月 機関名:名古屋工業大学
科目区分:大学院専門科目
-
第二部電子情報工学科 計算機工学
2018年04月 - 2021年03月 機関名:名古屋工業大学
科目区分:学部専門科目
委員歴
-
情報処理学会 FIT2024 第24回情報科学技術フォーラム研究会担当委員・プログラム委員
2023年11月 - 2024年09月
団体区分:学協会
-
日本音響学会 第150回秋季研究発表会実行委員
2023年05月 - 2023年09月
団体区分:学協会
-
電子情報通信学会 福祉情報工学研究会 副委員長
2023年04月 - 現在
団体区分:学協会
-
電子情報通信学会 ヒューマンコミュニケーションシンポジウム2023運営委員
2023年04月 - 現在
団体区分:学協会
-
電子情報通信学会 FIT2023 第22回情報科学技術フォーラム研究会担当委員・プログラム委員
2023年01月 - 2023年09月
団体区分:学協会
-
一般社団法人手話言語等の多文化共生社会協議会 代議員
2022年10月 - 現在
団体区分:その他
-
電子情報通信学会 ヒューマンコミュニケーションシンポジウム2022運営委員
2022年10月 - 2022年12月
団体区分:学協会
-
情報処理学会 音楽情報科学研究会幹事
2022年05月 - 現在
団体区分:学協会
-
電子情報通信学会 FIT2022 第21回情報科学技術フォーラム研究会担当委員・プログラム委員
2022年01月 - 2022年09月
団体区分:学協会
-
電子情報通信学会 リアルタイムコミュニケーション言語時限研究会 委員長
2021年04月 - 現在
団体区分:学協会