EBPM
実装編#01|ロジックモデルとは何か——EBPMを計画倒れにしない政策評価
このエピソードの概要
非行に走る恐れのある少年たちを本物の刑務所に連れて行き、恐怖で犯罪を思いとどまらせる——アメリカの「スケアード・ストレート」は、論理としては完璧に見えるプログラムでした。しかし検証の結果、参加した少年たちの再犯率はむしろ高くなっていたのです。実装編第1回のテーマは、この「完璧に見える計画の裏側に潜む罠」。日本の行政が陥っている「ロジックモデル偏重」を解き明かします。
ロジックモデルは、政策の目的・投入・活動・成果を矢印でつなぎ、因果関係を図式化するツールです。しかし日本では、この図を綺麗に描くこと自体がEBPM実践の証拠のように扱われるようになりました。その背景には、因果推論の専門人材の不足と、失敗を認めにくい組織文化があります。どれほど美しい図面も、アメリカの教育法ESSAのエビデンス階層では最下位の「ティア4」——単なる仮説の段階にすぎません。
番組では、起業セミナーの例で「選択バイアス」を、RCT・準実験・観察研究という因果推論の3手法を解説した上で、ロジックモデルの枠外で起きる4つの不都合な現実——置き換え効果、スピルオーバー効果、代理指標のハック、そして理論と現実の乖離を掘り下げます。
同時に、RCTも万能ではないこと、公平性や受容性といった価値判断はデータが決められないことにも言及。ロジックモデルを「信じるための設計図」ではなく「疑い、検証するための地図」として使うという結論と、AIが完璧なロジックモデルを提示する未来への思考実験で締めくくります。
文字起こし
出演:EBPM新聞記者・ヴェレ、EBPM新聞記者・シン
完璧な計画が逆効果を生む——スケアード・ストレートの衝撃
シン 今日は、非行に走る恐れのある少年たちを本物の刑務所に連れて行くという、少し過激なプログラムの話から始めたいと思います。
ヴェレ アメリカで行われたプログラムですね。いわゆる、恐怖で非行を思いとどまらせるというアプローチの。
シン ええ。凄惨な刑務所の環境を見せつけて、実際の受刑者と直接面会させるのです。
ヴェレ そうやって、「こんな恐ろしい場所には絶対に来たくない」と、骨の髄まで恐怖を味わわせるわけです。
シン これは、犯罪を未然に防ぐための計画としては、非常に理にかなった完璧な計画に聞こえますよね。目的と手段が一直線につながっていて、机上の論理としてはまったく隙がありません。ところが、この「スケアード・ストレート」と呼ばれるプログラムを実際に検証してみたら、驚くべき結果が出たのです。
ヴェレ プログラムに参加した少年たちのほうが、参加しなかった少年たちよりも、その後の再犯率が高くなってしまったんですよね。
シン そうなんです。恐怖で犯罪を抑止するどころか、逆に悪化させてしまった。ニュースや行政の発表を見ていて、似たような疑問を持ったことはありませんか。紙の上では完璧な計画に見えるのに、現実の社会ではどうしてこんなにも機能しないのだろう、と。
ヴェレ 私たちは、物事が理路整然と図解されていたり、もっともらしいストーリーが用意されていたりすると、それだけでうまくいくと無意識に安心してしまうんですよね。理想の設計図と現実の乖離。本当に陥りやすい罠です。
シン そこで今回の深掘りでは、まさにその「完璧に見える計画の裏側に潜む罠」に迫ります。テーマはEBPM——証拠に基づく政策立案です。ただし、お堅い政策論を解説するつもりはありません。今回のミッションは、日本の行政が現在どっぷりとはまってしまっている「ロジックモデルへの偏重」という罠を解き明かすことです。
ヴェレ 政策は、データや綺麗な図形を入力すれば自動的に正解が出力される魔法の自動販売機ではありません。本来は、人間社会の複雑で予測不可能な現実に適応し続けるための仕組みであるべきなんですよね。
なぜエビデンスが必要なのか——計器なしで飛ぶ飛行機
ヴェレ そもそも、なぜ今これほどまでに証拠——エビデンスが求められているのでしょうか。もし客観的な証拠という計器盤が一切なかったら、税金を使った政策はどう決まってしまうのか、想像してみてください。
シン 過去の前例をひたすら踏襲するか、たまたまうまくいった一部の極端な成功エピソードに飛びつくか、ですよね。あるいは、単に声の大きい政治家や有識者の鶴の一声だけで決まってしまう危険性も極めて高くなります。それは、計器を一切見ずに、パイロットの勘と度胸だけでジャンボジェット機を操縦するようなものです。
ヴェレ 勘だけで飛ぶのは怖すぎます。学校教育や子育て支援、防災政策といった、私たちの命や未来に関わるルールが、「あの偉い人がこう言っているから」という理由だけで決まるわけですから。
EBPMの起源と本質——データ一辺倒ではない「作法」
シン ここで非常に興味深いのが、EBPMという概念の起源です。1990年代の医学の世界で広まった「EBM」——根拠に基づく医療に行き着きます。医師の勘や経験だけでなく、臨床データを重視しようという動きですね。ただ、現在の政策立案におけるEBPMは、研究室のデータをそのまま社会に強制適用するような、冷たいシステムに進化したわけではありません。
ヴェレ そもそもこの政策は何を目的としているのかを言葉にして、そこに客観的なデータ、予算や制度の制約、そして人間としての価値判断を整合的に組み合わせていく、ということです。
シン なるほど。単なるデータ一辺倒主義ではなく、民主主義における説明責任のプロセスそのものなんですね。
ヴェレ そうなんです。勘や経験を全否定するのではなく、それらを検証可能なテーブルに載せるための「作法」と言えます。
日本のガラパゴス化——ロジックモデル偏重という罠
シン では、肝心の日本の現在地はどうなっているのか。2001年の政策評価法から始まり、2016年の統計改革あたりからEBPMの推進が本格的に動き出しましたよね。
ヴェレ ええ。政府全体でKPIを設定する、各省庁の評価を高度化する、数千もの事業を点検する行政事業レビューを行う——いわゆる「EBPM3本の矢」として、かなり旗振りがされてきました。制度としての枠組みは一気に整えられたのです。ただ、ここで日本のEBPMは、非常に特異な進化——ガラパゴス化を遂げてしまいました。
シン それが冒頭で触れた「罠」ですね。
ヴェレ ええ。「ロジックモデルの作成への異常な偏重」です。
シン ロジックモデル、つまり論理モデル。政策の目的があって、資金を投入して、こういう手段を取れば、結果としてこういう成果が出るはずだという因果関係を、矢印で結んで図式化したものですね。
ヴェレ そうです。もともとはアメリカの開発援助や財団法人の実務ガイドにルーツを持つフォーマットです。ところが日本では、「各施策の論拠を明確化せよ」という号令のもと、このロジックモデルの図を綺麗に描くこと自体が、あたかもEBPMを実践している決定的な証拠であるかのように扱われるようになってしまったのです。
なぜ「脚本作り」がゴールになるのか
シン ここからが本当に面白いところですが、ロジックモデルを描くというのは、要するに「大ヒット間違いなしの完璧な映画の脚本を書き上げただけ」の状態ですよね。
ヴェレ まさにその例えの通りです。「この感動的なシーンを入れれば観客は絶対に泣くはずだ」という、ただの計画書です。
シン まだ一度も映画館で上映しておらず、本当にお客さんが泣くかどうか試していないわけです。なぜ日本の行政では、その脚本作り自体がゴールになってしまうのでしょうか。
ヴェレ それには、日本の行政組織が抱える構造的な罠が関係しています。まず、実際の効果を測定するためのデータ分析や因果推論を専門とする人材が、圧倒的に不足しています。そして何より、失敗を認めにくい組織文化が根強く存在していることが大きいのです。
シン 厳密にデータを取って検証して、「すみません、何億円もかけたこの政策、実はまったく効果がありませんでした」と結論づけるのは、担当者にとってリスクが高すぎるわけですか。
ヴェレ その通りです。だからこそ、紙の上で目的と手段の論理的整合性さえ取れた美しい図を完成させて、「ほら、論理的には完璧です」と説明し、それを仕事の完了条件にしてしまう。そのほうが実務的にははるかに楽ですし、誰の責任も問われませんから。でも、論理が通っていることと、実際に現実社会で効果があることは、まったくの別物です。
相関と因果——起業セミナーと選択バイアス
シン ここで直面するのが、相関と因果の決定的な違いですね。
ヴェレ はい。例えば、ある自治体が起業支援セミナーを開いて、受講者の起業率がぐんと上がったとします。
シン 大成功じゃないですか。ロジックモデル上は、「セミナーを開いたから起業率が上がった」という美しい右肩上がりの矢印が引けます。
ヴェレ そこに大きな落とし穴があるのです。実は、セミナーの内容が素晴らしかったからではなく、もともと起業する意欲が非常に高く、能力もある人が集まっていたとしたらどうでしょう。
シン わざわざ休日に自ら選んでセミナーに参加するくらいですからね。つまり、セミナーのおかげではなく、単にやる気のある人が1か所に集まっただけかもしれない。
ヴェレ そうです。これを「選択バイアス」と呼びます。このバイアスを見抜くことは、美しい論理の図面を眺めているだけでは絶対に不可能です。
因果を測る3つの手法——RCT・準実験・観察研究
ヴェレ 真の因果効果を測定する手法には、大きく分けて3つのアプローチがあります。最も強力なのが「RCT」——ランダム化比較試験です。
シン 新薬の治験などでよく聞く手法ですね。対象者をコインの裏表のように、完全に無作為に分けるという。
ヴェレ ええ。セミナーを受けるグループと受けないグループにランダムに分ければ、もともとのやる気や能力の偏りが両グループで均等になるので、バイアスは消滅するわけです。
シン まさに最強の手法、因果推論のゴールドスタンダードですね。
ヴェレ ただ、現実の社会政策で常にコインの裏表ができるわけではありません。「あなたはクジ引きで外れたから福祉サービスを受けられません」とは言えませんから。
シン 確かに、それは倫理的に大問題になります。では、ランダムに分けられないときはどうするのですか。
ヴェレ そこで2つ目の手法、「準実験」が登場します。統計的な手法を駆使して、RCTにできるだけ近い比較グループを人工的に作り出すのです。例えば、セミナーに参加した人と、年齢や性別、過去の経歴などが双子のようにそっくりな「参加していない人」をデータ上から探してきて比較するようなアプローチです。
シン なるほど。自然発生的な状況から、実験に近い環境を抽出するのですね。3つ目は?
ヴェレ 3つ目は「観察研究」です。既存のデータに統計モデルを当てはめて効果を推測するものですが、他の影響要因をすべて取り除くためには非常に強い仮定を置く必要があり、確実性は下がります。
ESSAのエビデンス階層——ロジックモデルは「ティア4」
シン そういう手法のレベル分けというのは、あるのですか。
ヴェレ ええ。アメリカの教育関連法である「ESSA(Every Student Succeeds Act)」では、エビデンスの強さを明確に「ティア」という階層で分けています。
シン トップのティア1が、先ほどのRCTによる厳密な証明ですね。
ヴェレ そうです。では、日本の行政が机上で作ってありがたがっているロジックモデルは、アメリカの基準だとどこにランク付けされると思いますか。
シン うーん、それなりに論理的だから、ティア2か3には入ってほしいところですが。
ヴェレ 実証結果がまったくないわけですから、最も下のランク——「ティア4」に分類されます。「明確な理論的根拠があり、これから効果検証を行う計画がある」というだけの、単なる仮説の段階にすぎません。
シン 最下位ですか。つまり、どれだけ美しいロジックモデルの図面を描き上げても、「本当にその政策のおかげで社会が良くなったのか」の証明には、1ミリもなっていないということですよね。
ヴェレ 残念ながら、その通りです。しかも厄介なことに、社会という複雑なシステムは、ロジックモデルの直線的なストーリーを平気で裏切ります。
ロジックモデルが見落とす4つの不都合な現実
シン ストーリーを裏切る、とは。
ヴェレ ロジックモデルは、枠の中の出来事しか描けないのです。でも現実には、その枠の外で「4つの不都合な現実」が起きます。まず1つ目が、「一般均衡効果」の見落としです。職業訓練プログラムを例に取りましょう。プログラムを受けた人が見事に就職できたとします。ロジックモデルの枠内では大成功です。でも、労働市場全体の採用枠が限られていたらどうでしょう。訓練を受けた人が就職できた裏で、訓練を受けていない誰かが、本来就けるはずだった仕事から弾き出されているだけかもしれない。
シン 椅子取りゲームの勝者が変わっただけで、社会全体の失業者は1人も減っていない、ということですか。
ヴェレ ええ。これを「置き換え効果」と呼びます。枠組みを社会全体に広げると、プラスマイナスゼロになってしまう典型例です。2つ目は、空間的な広がりで起きる「スピルオーバー効果」——波及効果です。ある地域の警察のパトロールを強化して、その町の犯罪が激減したとします。
シン ロジックモデルでは「治安改善」と結論づけられますね。
ヴェレ でも、風船をぎゅっと握ったら別の場所が膨らむように、単に犯罪者たちが隣の町に移動して、お隣の犯罪率が急増しているだけかもしれません。
シン まさに風船効果ですね。逆に、医療や福祉政策が良い波及効果を生んで、対象者だけでなくその家族や地域全体を豊かにすることもあるわけですよね。
ヴェレ そうなんです。でもロジックモデルは、最初から設定されたターゲットしか見ないため、良くも悪くもこれらの波及効果を見落としてしまうのです。
シン ターゲットしか見ないからこその死角ですね。3つ目は?
ヴェレ 3つ目は、「代理指標」——中間アウトカムの最適化です。人間は、測定されている指標そのものをハックしようとする生き物なのです。
シン これは会社員の方なら「あるある」と頷くはずです。本当の目的は売り上げを上げることなのに、顧客訪問件数をKPIに設定した途端、見込みのない顧客のところに行って無駄に件数だけを稼ぐようになる、という。
ヴェレ 行政でもまったく同じことが起きます。地域の健康寿命を延ばすことが目的なのに、いつの間にか、健康イベントの参加人数を増やすこと自体が自己目的化してしまう。
シン イベントの中身や、本当の健康への寄与が置き去りにされてしまうんですね。そして最後、4つ目は。
ヴェレ 4つ目は、冒頭でお話ししたスケアード・ストレートの事例が示す「理論と現実の乖離」です。完璧なロジックが逆効果を招くパターンですね。刑務所を見せて恐怖を与えれば非行が減るという完璧なロジックが、実際には反発や模倣を招いて再犯率を悪化させました。人間の心理や社会は、無数の要素が相互に影響し合う複雑なネットワークです。ロジックモデルという1枚の地図に描かれた直線のルート通りには、決して進まないのです。
シン 良かれと思ってしたアドバイスが相手を居心地悪くさせて、まったく逆効果だった——そんな経験はありませんか。行政の政策でも、同じことが起きるのですね。
RCTも万能ではない——倫理・コスト・文脈依存
シン ならば、ロジックモデルなど捨ててしまって、あらゆる政策を最強の因果推論であるRCTで検証すればいいじゃないか、と思ってしまうのですが、実はそう単純な話でもないんですよね。
ヴェレ RCTも決して万能の杖ではありません。理由はいくつかありますが、筆頭は、先ほども触れた倫理的な制約です。
シン 効果があるかもしれない救命医療や、貧困層への強力な生活支援を、検証のためにクジ引きで半分の人には提供しないでおく、という決断ですよね。
ヴェレ はい。現実の政治や行政では非常に困難です。命や生活がかかっているときに、「あなたは検証のためのコントロール群だから我慢してね」とは言えませんから。多額のコストや時間もかかります。さらに、ある特定の条件が揃った小さな町で大成功したRCTの結果が、国全体にスケールアップしたときに同じように機能するとは限りません。文脈への依存性が高いのです。
データが決めない領域——価値判断と海外の仕組み
シン 何でもかんでもRCTにすればいいわけではない。だからこそ、データがすべてを自動的に決定するわけではないのですね。
ヴェレ ええ。WHO——世界保健機関も、政策決定の枠組みの中で、効果の証拠だけでなく、公平性、実現可能性、費用負担、そして社会的な受容性を含めて総合的に判断すべきだと提唱しています。
シン どんなに緻密なデータ分析が、「この過疎地の病院を閉鎖して都市部の巨大病院に集約するのが、費用対効果として最も優秀です」という結果を弾き出したとしても、ですよね。
ヴェレ そうです。そこに住み続けている高齢者の公平性や生活の質をどう守るのか。それはAIや統計モデルが勝手に決めることではありません。最終的には私たち人間が、政治の場で何が大切な価値観なのかを判断しなければならない領域が、必ず残るのです。
シン では、証拠と価値判断をうまく統合している海外の先進事例は、日本と何が違うのでしょうか。
ヴェレ 例えば、英国の「ワット・ワークス・ネットワーク」が非常に参考になります。彼らは魔法の分析手法を探しているわけではなく、証拠を現場の最前線で使えるように「翻訳」する仕組みを持っているのです。
シン 翻訳ですか。日本のように、何百ページもある生の統計データのPDFをホームページに公開して「あとは現場でよろしく」というのとは違うのですか。
ヴェレ 「この指導法は読解力を何パーセント向上させ、生徒1人あたりの導入コストはいくら」という、直感的にわかる1枚のダッシュボードに落とし込んで提供しています。さらに、アメリカの「エビデンス・アクト(証拠に基づく政策立案促進法)」も優れています。各省庁に評価の責任者を置き、日常の行政のサイクルの中に「学習する仕組み」を法律でがっちりと組み込んでいるのです。
シン 優秀な数人のデータアナリストに頼るのではなく、組織全体が証拠を使って賢く立ち回れる仕組みを作っているのですね。
ヴェレ そうなんです。翻って日本は、ロジックモデルの図を描いて満足するか、機械で読み取れないPDFを公開して終わっている。これでは政策を改善しようがありません。
シン EBPMの本当の壁は、高度な分析手法を知らないこと以上に、評価を政策の改善に直結させようという組織的なインセンティブの欠如にある、というわけですね。
ヴェレ ええ。実務的な弱点は、まさにそこにあります。
まとめ——「信じる設計図」ではなく「疑うための地図」
シン 今回の深掘りで見えてきた核心をまとめましょう。EBPMとは、政治家の代わりに絶対の正解を自動で叩き出してくれる魔法の機械ではありません。
ヴェレ ええ。政策の目的、根拠、限界や副作用を見える化して、後から検証や改善ができるようにする仕組みです。
シン つまり、「政策を学習可能にするための仕組み」ということですね。ロジックモデルも、それ自体が悪いわけではなく、「信じるための完成された設計図」として使うべきではないと。
ヴェレ そうです。「本当にこのルート通りに進むのか」と疑い、検証するための地図として使って初めて意味を持ちます。
シン 今後ニュースで「完璧なロジックに基づく新しい政策」を見かけたときは、少し立ち止まって考えてみてほしいのです。それは本当に実証されたのか。波及効果やバイアスは見落とされていないか、と。
ヴェレ 証拠を重んじる態度は、誰かの作った論理を盲信する態度とは真逆のものですからね。
最後の思考実験——AIが完璧なロジックモデルを作ったら
シン 最後に、一つの挑発的な思考実験を渡して終わりにしましょう。もし近い将来、AIがとてつもなく進化して、社会の複雑なシミュレーションを完璧にこなせるようになったとします。ありとあらゆる波及効果を予測した、超高精度な「AIロジックモデル」を提示してきたとしたら——私たちは、RCTのような現実の検証を放棄して、全面的にAIを信じるようになるのでしょうか。それとも、政治家の仕事は、AIが弾き出したデータに対する「価値観のラベル貼り」だけになってしまうのでしょうか。ぜひ、あなた自身の頭で考えてみてください。
ヴェレ 完璧な予測と、現実の検証。技術が進めば進むほど、私たち人間が社会をどう統治していくのか、その根源的な意味が問われることになりますね。
シン 完璧に見える計画が現実の壁にぶつかったとき、その失敗から泥臭くどう学ぶか。それができるのが人間の強みであり、社会を少しずつ前へ進める原動力です。それでは、今回の深掘りはここまで。次回もまた、世界の裏側に隠れた面白い事実を一緒に紐解いていきましょう。お楽しみに。
関連エピソード
Spotifyで聴く
Apple Podcastsで聴く
この活動を、一緒に続けませんか
EBPM新聞のPodcast・記事・文字起こしは、すべて無料で公開しています。広告も、有料会員制度もありません。「証拠に基づいて考える文化」を広めるこの活動は、EBPM・統計・メタ分析をモチーフにした公式グッズの収益で支えられています。
1枚のTシャツやステッカーが、次のエピソードの制作費になり、あなたの持ち物がEBPMの会話を始めるきっかけになります。
公式グッズで応援する