ここは誤解されやすいので、はっきり書いておきたい。
評価はオルソネーザル、つまり鼻から嗅ぐだけで行われた。パネリストは一口も飲んでいない。3桁の番号で伏せられたサンプルをランダムな順で渡され、グラスに移してすぐ蓋をし、香りだけを評価している。
方法はRATA(rate-all-that-apply)。あらかじめ選ばれた17語――溶剤(除光液)様、リンゴ様、洋ナシ様、花様、バター/バターラム様、フルーティ、木様、蜂蜜様、メロン様、カラメル様、桃様、ココナッツ様、スパイス/クローブ様、オレンジ様、スモーキー、フェノール様、バニラ様――の中から、当てはまるものを最大5つ選び、その強さを点数で答える。11人ぶんの点数を足し合わせて上位5語を取ったものが、その銘柄の「正解ラベル」になる。
つまり香りをどう言葉にするかという作業を、17語の選択肢に閉じ込めたものが人間側の仕事だった。風味の大半を担っているのが鼻である以上、嗅ぐだけの評価にも意味はある。ただし「飲んでいない」という一点は、結果を読むうえで頭に入れておきたい。
一方でAIが受け取ったのは、香りではない。GC-MS(ガスクロマトグラフィー質量分析)で検出された分子名のリストだけだ。16本から検出された分子は全部で279種類。OWSumという線形モデルにはその名前のリストが、CNN(畳み込みニューラルネットワーク)には分子構造を部分構造に分解した特徴量が入力された。
AIは一度も匂いを嗅いでいない。嗅覚受容体の情報も、匂いの閾値も、入力には含まれていない。
論文の中心となる数字を並べる。モデル側は、16本のうち1本を除いて学習し、残した1本の上位5語を当てる(leave-one-out)という手続きで、どれだけ当たったかをF1スコアで示したものだ。人間側だけは数え方が違うので、それは後で述べる。
- CNN(ニューラルネットワーク):0.71
- OWSum(線形モデル):0.61
- ランダムフォレスト:0.61 / SVM:0.59
- 頻出5語の決め打ち:0.52
- パネリスト個人:0.35
CNNの0.71が、パネリスト個人の0.35を大きく上回っている。ここだけを取れば「AIが専門家の倍近い精度」という見出しは作れる。
ところが、下の2行を見てほしい。「データセットで最も頻出する5語を、どの銘柄にも機械的に答える」だけの決め打ちが0.52で、これも人間を上回っている。ランダムな当てずっぽうではなく、頻出語をただ並べる手続きだ。論文の考察も、この点を自分で書いている――パネル全体の評価と一致しやすかったのは、個々のパネリストの回答よりも、むしろこの決め打ちのほうだった、と。
既製の汎用モデル(ランダムフォレスト、SVM)が、研究チーム自作のOWSumとほぼ並んでいるのも見逃せない。特別なモデルでなくても、この程度は出る。
数字の読み方には、もうひとつ注意がいる。並べたこれらの数字は、集計の軸がそろっていない。モデル側と決め打ちの成績は「16本それぞれについて」計算されたもので、パネリスト個人の0.35だけは「11人それぞれについて」全銘柄をまとめて計算したものだ。同じ土俵の点数として並べられてはいるが、そろえ方は違う。
さらに、CNNの0.71という数字自体にも留保がある。同じモデルについて、本文の表は0.71、補足資料の表は平均0.66を報告している。他のモデルはすべて本文と補足で一致するのに、CNNだけが食い違う。論文はこの差について説明していない。補足資料のほうを見ると、16回の試行でF1は最低0.33から最高0.89まで散らばっており、少なくとも「安定して当てる」という結果ではない。
「AIがスコッチとアメリカンを人間より正確に見分けた」という見出しが流れた。だが原論文を読むと、産地を判定するタスクを人間は一度もやっていない。
パネリストの仕事は、17語から香りを選んで点数をつけることだけだ。「これはスコッチだと思うか」とは訊かれていない。スコッチかアメリカンかの判定は、最初から最後までアルゴリズムだけが行っている。人間と機械が同じ問題を解いて競った場面は、この研究に存在しない。
産地判定の数字が報道で「94%」「90%超」「100%」と揺れているのは、論文が2つの数字を並べて報告しているからだ。分子リストを入力にしたときが100%、パネルがつけた香りの言葉を入力にしたときが93.75%(≒94%)。どちらも正しい報告で、媒体がどちらを拾ったかの違いにすぎない。
ただし後者には注意したい。入力が「人間の評価語」である以上、そこで働いているのは人間の鼻の成果であって、機械が匂いから産地を見抜いたわけではない。
そして補足資料の表S1を見ると、著者たちは8通りの設定を試していて、成績は75%から100%まで開いている。報道に出るのは、そのうち成績のよかったものだ。
分子リストからの100%も、16本での話である。著者たちは論文中でそのまま注意している――この結果は限られたデータセットのものであり、すべてのスコッチとアメリカンを代表するものではない、と。
人間側の0.35が何を測っているのか。論文の定義をたどると、こうなる。
ある一人(Subject X)の回答を「予測」、**残り10人の合計を「正解」**とみなし、どれだけ一致するかを計算する。それを11人ぶん繰り返して平均したものが0.35だ。
つまりこれは、鼻の性能を直接測った数字ではない。同じグラスを嗅いだ11人が、どれだけ同じ言葉を選ばなかったかを測った数字である。
そう考えると、決め打ちの0.52が人間を上回った理由も見えてくる。全員が「フルーティ」を選びやすいなら、いつも「フルーティ」と答える手続きは多数派と一致しやすい。逆に、ある一人がある銘柄に「蜂蜜様」を強く感じてそれを選べば、多数派とはずれる。一致度で採点する限り、少数派の回答ほど点は下がる。
しかも設計上、選べるのは最大5語だ。正解ラベルは常に5語あるので、3語しか選ばなかった人は、その時点で取りこぼしが確定する。0.35という数字には、知覚の差だけでなく、語彙の選び方の差も、この回答個数の制約も、すべて混ざっている。
もちろん、同じ一杯が人によってまったく違う匂いに感じられることには、嗅覚受容体の個人差という生理学的な裏づけがある。0.35にはその成分も入っているだろう。ただ、この数字がそれだけを取り出したものだとは言えない。
補足資料の図S3には、さらに示唆的な記述がある。スコッチのほうがアメリカンより、パネリスト間の不一致が大きかった。同じ注記は、スコッチはアルゴリズムにとっても学習が難しかったようだ、と続けている。9本のスコッチにはピーテッドもシェリー樽で寝かせたものも混じっており、新樽の性格がそろって出るアメリカン7本より香りが散らばりやすかった――というのは筆者の推測だが、納得はいく。
なお、Subject Xの定義は結果欄と方法欄で書きぶりが食い違っている。ここでは結果欄の記述に従った。
「専門家」という言葉は、報道が勝手に足したものではない。原論文自身が “expert panel”“experienced panelists” と繰り返し書いている。そこは押さえておきたい。
そのうえで、11人が誰なのかは、先行論文の方法欄に一行だけ書かれている。フラウンホーファーIVVの官能評価パネルに所属するボランティア11名(女性8名・男性3名、26〜43歳)。
分かるのはここまでだ。論文は、彼らのウイスキー経験について何も書いていない。何年ウイスキーを飲んできたのか、業界の人なのか――そこには触れていない。分かる選抜条件は「同研究所の官能パネルに所属していること」だけである。17語の選択肢自体、同じ研究所の訓練されたパネルが事前に決めたものだ。
彼らが匂いの評価訓練を受けた人たちであることは間違いない。ただ、この実験が示したのは「匂いの評価訓練を受けた研究所内パネルの多数決を、モデルがうまく再現できた」ということであって、マスターブレンダーという職人が何十年もかけて身につけるものと比べた結果ではない。そう置き直すと、「専門家に勝った」の意味はずいぶん変わる。
ここまで留保を並べてきたが、この研究がつまらないという話ではまったくない。むしろ分子の話のほうが面白い。
16本を調べたところ、ヘプタン酸とデカン酸メチルはスコッチ9本すべてから検出され、アメリカンからは一本も出なかった。逆にメントールとシトロネロールはアメリカン7本すべてにあり、スコッチには無かった。この4分子だけで産地が分かれてしまう。
ただし著者たちは慎重だ。メントールとヘプタン酸はブランク(試料を入れない測定)からも検出されており、試料に比べればごく微量(メントールで平均の5.9%、ヘプタン酸で11%)なので有効と判断した、と手の内まで書いている。さらに重要なのは、この分子の同定が半自動処理だけで行われ、標準品との照合による確定同定はしていないと明言していることだ。論文自身、検出された物質のなかにはウイスキーとして見慣れないものも含まれる、と認めている。なぜアメリカンにメントールが出るのかについて、論文は理由を書いていない。書いていないことをこちらが補ってはいけない。
この「検出された/されなかった」を素朴に読んではいけないことは、論文自身の別の記述がよく示している。グアイアコール(2-メトキシフェノール)は、アメリカン7本すべてから検出され、スコッチは9本中5本にとどまった。論文はこれを「意外にも」と書いている。
ただし同じ論文は、模擬ウイスキーを使った検証で、グアイアコールは濃度が高い試料では検出できたが、低い試料では検出できなかったと報告している。極性が高く、抽出に使う無極性の吸着相と相性が悪いためで、著者は「高い濃度でしか検出できない可能性がある」と明記している。つまりここでの「検出されなかった」は「入っていない」ではなく、「この方法では拾えなかった」かもしれない。
そもそもグアイアコールは、ピート煙だけの分子ではない。樽の内側を焼くとき、熱でリグニンが分解して生まれる——バニリンと同じ出どころだ。内側を必ず焼いた新樽で寝かせるバーボンから全数出ること自体は、むしろ自然である。
香りの言葉の側では、カラメル様がアメリカンの特徴として、リンゴ様・フェノール様・溶剤様がスコッチ側の特徴として浮かび上がった。樽に由来するウイスキーラクトンは16本すべてから検出され、相対量(内部標準に対する比で、濃度そのものではない)はアメリカンのほうが多かった。新樽を焼いて使うバーボンと、その樽を再利用するスコッチという造りの違いを考えれば、腑に落ちる並びではある。
ちなみに、40%に揃えられた9本のスコッチには、グレンモーレンジィのオリジナルも入っている。同蒸留所が得意とする追熟シリーズの、土台になるバーボン樽だけの一本だ。
もうひとつ、地味だが面白い結果がある。CNNは、分子の量の情報を捨てたときにいちばんよく当たった。GCのピーク面積を入力から外したモデルが最高成績を出している。
ただし著者たちは、これを「量は関係ない」とは読んでいない。損失関数に与えたクラスの重みづけのほうが効いたためではないか、と技術的な推測を書き添えている。「量は要らなかった」と言い切れる結果ではない。
補足資料の表S4は、17語それぞれについて「判定を押し上げた分子」を、影響の大きかったものから並べている。この表には、はっきりと注記がついている――分子と香りの質のあいだに因果関係を意味するものではない、と。さらに、影響の大きかった単一分子の匂いが、混合物としての匂いと同じとは限らない、とも書かれている。
表を眺めると、その警告の意味がよく分かる。「スモーキー」と「フェノール様」の欄に並ぶ分子は、8つとも完全に同じ顔ぶれだ。うち5つはフェノール類で、ピート由来のフェノールを考えれば納得がいく。フェノール値(ppm)という指標が存在するのもこのためだ。ただし、上位に出る分子だけを見るかぎり、この2語は見分けがつかない。
もっと分かりやすいのが「バニラ様」である。並ぶのはアルコール、アルデヒド、環状ケトン、カルボン酸、エステルという雑多な顔ぶれで、バニリンは一度も出てこない。ウイスキーがバニラの香りを持つ理由そのものであるはずの分子が、である。
検出されていなかったわけではない。バニリンは16本中11本――アメリカン7本すべてとスコッチ4本――から検出されている。モデルの手元にはちゃんとあった。
それでも上位に出てこないのは、この表を作ったモデルがtf-idfという重みづけを使っているからだ。多くのクラスに顔を出す特徴ほど重みを下げる、という式である。あちこちで検出される分子は、その定義上、判別の役に立たないものとして小さく見積もられる。
このモデルが探しているのは「バニラの匂いの原因物質」ではない。「バニラと評価された銘柄に居合わせやすかった分子」である。統計的な目印と、香りの正体は違う。著者たちが注記を付けたのは、まさにその混同を防ぐためだろう。
三つある。
ひとつ。「フルーティ」は、16本中13本で上位5語に入った。 逆にメロン様と花様は2本ずつ、ココナッツ様にいたっては一度も上位5語に入らず、分類からも外された。訓練された11人が17語から選んでも、多くの銘柄は「フルーティ」に流れ込む。テイスティングノートに果実の名前が並ぶのは、書き手の語彙が貧しいからではない。実際に発酵由来のエステルが働いているうえに、香りを言葉にするという作業そのものにも引力がある。
ふたつ。同じグラスを嗅いだ11人ですら、一致度は0.35だった。 バーで隣の人と感想が合わないのは、どちらかが間違っているからではない。聞こえている音や店の空気によっても一杯の印象は動く。訓練を受けた人どうしの評価が割れることも、ごく普通に起きる。
みっつ。この実験は、40%に揃えて嗅ぐことで成立していた。 度数を揃え、蓋をして、番号で伏せて、順番をランダムにする。家で真似できるのは最初のひとつだけだが、これは効く。トワイスアップ――常温の水で1:1に割る飲み方は、ブレンダーが香りを見るための手法として知られている。スコッチとバーボンを飲み比べるなら、まず度数を揃えるところから始めるといい。
AIが人間の鼻を追い越した、という話ではなかった。分子のリストだけを渡された機械が、11人の多数決を、11人の誰よりもうまく再現できた――そういう研究だ。
再現されたのは多数決であって、あなたが今夜そのグラスから受け取る匂いではない。0.35という数字は、そのことを裏側から示している。