音楽情報知能チーム - rikenpowerpoint プレゼンテーション author: htakagi created...

1
・・・ ・・・・ ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ Metrical dots MPR2 MPR5d ・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ Metrical structure level 0 ・・・ ・・・・ Hidden Layer n+1 Metrical dots MPR2 MPR5d ・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ Metrical structure level 1 ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ Fully connected to hidden layer n ・・・ ・・・・ Hidden layer n+h Metrical dots MPR2 MPR5d ・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ ・・・ ・・・・ Metrical structure level h ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ Fully connected to hidden layer n+h-1 ・・・ ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ Hidden Layer n Boundary GPR2a GPR6 ・・・ ・・・ ・・・ ・・・ ・・・ ・・・ ・・・ ・・・ ・・・ ・・・ ・・・ ・・・ ・・・ ・・・ ・・・ ・・・ ・・・ ・・・ ・・・ ・・・・ ・・・・ ・・・・ ・・・・ ・・・・ ・・・・ ・・・・ ・・・・ ・・・・ ・・・・ ・・・・ ・・・・ ・・・・ ・・・・ ・・・・ ・・・・ ・・・・ ・・・・ Onset time Offset time Pitch Velocity Hidden Layer 1 ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ ・・・・・ ・・・・・ ・・・・・ ・・・・・ ・・・・・ ・・・・・ ・・・・・ ・・・・・ ・・・・・ ・・・・・ ・・・・・ ・・・・・ ・・・・・ ・・・・・ ・・・・・ ・・・・・ ・・・・・ ・・・・・ Hidden Layer 2 ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ Hidden Layer n -1 ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ ・・・・・ ・・・・・ Fully connected Hidden Layer n Low level grouping boundary GTTMによる分析結果 タイムスパン木 拍節構造 グルーピング構造 プロロンゲーション木 音楽情報知能チーム 浜中雅俊 Music Information Intelligence Team Masatoshi Hamanaka 計算論的音楽理論とは? 音楽理論 “a Generative Theory of T onal Music” - GTTM4つのサブ理論からなり,それぞれ音楽に関して知識のある聴取者 の直観を形式的に記述する - タイムスパン木は,構造的に重要な音符が根に近い茎となり,装飾的な音符 が枝となるように構成される - タイムスパン木の途中に直線を引き,直線より下の枝に接続される装飾的な 音符を省略することで簡約された(抽象化された)メロディを抽出できる タイムスパン簡約 メロディモーフィング手法 GTTMに基づく基本演算 [平田ら 2002] 包摂関係 具体的なものと,抽象的なものの関係 meet 共通部分の抽出 join 統合(重ねあわせ) abstracting instantiating A T B T A T B T A T B T A T B T Melody A Melody B TA TB TA TB 1)メロディの対応づけ 2)メロディの部分簡約 TC 3)メロディの合成 TC TD Melody C TD TC Melody D TD Melody E L A L B (1)メロディの対応づけ メロディの共通部分の算出 TA TB トップダウンに見て最も共通する部分を取り出す Melody B TA TB TA TB TA TB TA , TA TB TB Melody A (3) メロディの合成 2つのメロディをjoin により統合する C T D T C T D T TA TA TB T C 1 T C 2 T C 3 T C 4 T C 5 T C 6 T C 7 T C 8 異なる2音をn1, n2としたとき、特 殊な値[n1, n2](n1 またはn2)を導 時間構造は一致するが音高が異 なるn1 n2 の解を[n1, n2]とする メロディの非共通部分の簡約 相手のメロディにない特徴を簡約により 滑らかに増減させる (2) メロディの部分簡約 deepGTTM 3a ^ ^^ ^ ^ 3a 3a,6 6 6 ... ... ^ ^^ ^ ^ ... 楽譜から音楽構造を学習するのは飛躍が大きすぎる 楽譜からルールの学習は容易 楽譜とルールから音楽構造の学習は容易 グルーピング境界 直接の学習は困難 GPR3a:音程の跳躍点が 境界になりやすい GPR6: メロディの繰り返し 地点が境界になりやすい 学習は容易 学習は容易 グルーピング境界 深層学習に基づく音楽構造分析器を構築 グルーピング構造と拍節構造をマルチタスク学習するdeepGTTM-III モーフィング手法に基づく作曲 メロディモーモーフィング手法に基づく作曲 [浜中ら 2018-2019] - モーツアルトきらきら星変奏曲のテーマと変奏曲1の間に9個のモーフィングメロディを作曲 - 10年以上の経験を持つ音楽家が曲の分析およびメロディモーフィング手法の適用を行った - メロディの78.5%をメロディモーフィング手法で作曲できた - 不自然になる箇所や単調になる箇所21.5%は音楽家が作曲した(カッコが付いている音符) ShakeGuitar メロディモーフィング手法 [浜中ら 2008]

Upload: others

Post on 06-Feb-2020

3 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: 音楽情報知能チーム - RikenPowerPoint プレゼンテーション Author: htakagi Created Date: 3/4/2019 1:06:01 PM

・・・

・・・・

・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・

Metrical dotsMPR2

MPR5d

・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

Metrical structure level 0

・・・

・・・・Hidden

Layer n+1

Metrical dotsMPR2

MPR5d

・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

Metrical structure level 1

・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・Fully connected to hidden layer n

・・・

・・・・Hidden

layer n+h

Metrical dotsMPR2

MPR5d

・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

・・・

・・・・

Metrical structure level h

・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・Fully connected to hidden layer n+h-1・

・・

・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・Hidden Layer n

BoundaryGPR2a

GPR6

・・・

・・・

・・・

・・・

・・・

・・・

・・・

・・・

・・・

・・・

・・・

・・・

・・・

・・・

・・・

・・・

・・・

・・・

・・・

・・・・

・・・・

・・・・

・・・・

・・・・

・・・・

・・・・

・・・・

・・・・

・・・・

・・・・

・・・・

・・・・

・・・・

・・・・

・・・・

・・・・

・・・・

Onset timeOffset timePitch Velocity

Hidden Layer 1

・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・

・・・・・

・・・・・

・・・・・

・・・・・

・・・・・

・・・・・

・・・・・

・・・・・

・・・・・

・・・・・

・・・・・

・・・・・

・・・・・

・・・・・

・・・・・

・・・・・

・・・・・

・・・・・

Hidden Layer 2

・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・

Hidden Layer n -1 ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・

・・・・

・・・・・

Fully connected

Hidden Layer n

Low level grouping boundary

GTTMによる分析結果

タイムスパン木

拍節構造

グルーピング構造

プロロンゲーション木

音楽情報知能チーム 浜中雅俊 Music Information Intelligence Team

Masatoshi Hamanaka

計算論的音楽理論とは? 音楽理論 “a Generative Theory of Tonal Music”

- GTTMは4つのサブ理論からなり,それぞれ音楽に関して知識のある聴取者 の直観を形式的に記述する

- タイムスパン木は,構造的に重要な音符が根に近い茎となり,装飾的な音符 が枝となるように構成される

- タイムスパン木の途中に直線を引き,直線より下の枝に接続される装飾的な 音符を省略することで簡約された(抽象化された)メロディを抽出できる

タイムスパン簡約

メロディモーフィング手法 GTTMに基づく基本演算 [平田ら 2002]

包摂関係 ⊑ 具体的なものと,抽象的なものの関係 meet ⊓ 共通部分の抽出 join ⊔ 統合(重ねあわせ)

abstracting instantiating

AT BT

AT BT⊔

AT BT

AT BT⊓

Melody A Melody B

TA TB

TA TB

(1)メロディの対応づけ

(2)メロディの部分簡約 TC

(3)メロディの合成 TC TD

Melody C

TD TC

Melody D TD

Melody E

LA

LB

(1)メロディの対応づけ

・ メロディの共通部分の算出 TA ⊓TB ・ トップダウンに見て最も共通する部分を取り出す

Melody B

TA TB

TA ⊓TB TA ⊓TB ⊑ TA , TA ⊓TB ⊑ TB

Melody A

(3) メロディの合成 ・ 2つのメロディをjoin ⊔ により統合する

CT DT

CT ⊔ DT

TA

TA ⊓ TB

TC 1

TC 2

TC 3

TC 4

TC 5

TC 6

TC 7

TC 8

異なる2音をn1, n2としたとき、特殊な値[n1, n2](n1 またはn2)を導入 時間構造は一致するが音高が異なるn1 ⊔ n2 の解を[n1, n2]とする

・ メロディの非共通部分の簡約 ・ 相手のメロディにない特徴を簡約により 滑らかに増減させる

(2) メロディの部分簡約

deepGTTM

1 2 3 4 5 6 7 8 9 10 11 12 13 14

3a ^ ^ ^^ 3a 3a,66 6

...

1 2 3 4 5 6 7 8 9 10 11 12 13 14

3a ^ ^ ^^ 3a 3a,66 6

...

1 2 3 4 5 6 7 8 9 10 11 12 13 14

3a ^ ^ ^^ 3a 3a,66 6

...

• 楽譜から音楽構造を学習するのは飛躍が大きすぎる

• 楽譜からルールの学習は容易

• 楽譜とルールから音楽構造の学習は容易

グルーピング境界

直接の学習は困難

GPR3a:音程の跳躍点が 境界になりやすい

GPR6: メロディの繰り返し 地点が境界になりやすい

学習は容易

学習は容易 グルーピング境界

深層学習に基づく音楽構造分析器を構築

グルーピング構造と拍節構造をマルチタスク学習するdeepGTTM-III

モーフィング手法に基づく作曲 メロディモーモーフィング手法に基づく作曲 [浜中ら 2018-2019] - モーツアルトきらきら星変奏曲のテーマと変奏曲1の間に9個のモーフィングメロディを作曲 - 10年以上の経験を持つ音楽家が曲の分析およびメロディモーフィング手法の適用を行った - メロディの78.5%をメロディモーフィング手法で作曲できた - 不自然になる箇所や単調になる箇所21.5%は音楽家が作曲した(カッコが付いている音符)

ShakeGuitar

メロディモーフィング手法 [浜中ら 2008]