第5回 文章で答えないAI——0から1の数字で「判定」する、速くて安いAI

AI活用支援の実務家に聞く AIと一緒に学ぶ
佐藤 雄大(ブリッジドット株式会社 代表取締役)
ブリッジドット株式会社代表取締役の佐藤雄大です。教育工学が専門。AI活用支援を本業とする実務家として、放送大学、数理・データサイエンス・AI講座のWebサイト運営にも携わっています。本ニュースレターでは、毎号1テーマで「AIを学びの相棒にする」ためのヒントをお届けします。
9月のシルバーウィーク、皆さんはどう過ごされましたか。私は連休中、発表されたばかりの新しいAIを触っていて、心底びっくりしました。文章で答えてこないAIです。3回続きのシリーズを終えた今回は、この「判定するAI」と、AIを使うときの「1回あたりのコスト」の話をお届けします。
第5回 文章で答えないAI——0から1の数字で「判定」する、速くて安いAI
ChatGPTのような「文章を書くAI」とは別に、0から1の数字だけで「判定」するAIが出てきました。速くて安い理由、書くAIとの組み合わせ方、使う前に知っておきたいことを、図を交えてお届けします。
連休に出会った「文章で答えないAI」
連休中に触っていたのは、TypeSafeという新しい会社が9月に発表した「Jev」というAIです。
これまで私がAIのすごさを感じてきたのは、ChatGPT、Claude、Geminiといったチャット型のAIでした。良いプロンプトを投げて、良い答えを返してもらう。やりとりを長く続けても質を保てる。レポートの下書きやプログラミングで、その性能に何度も驚かされてきました。
ところがJevは、何を聞いても文章で答えてこないのです。返ってくるのは「0.95」のような数字だけ。最初は拍子抜けしましたが、使い込むうちに、これはとても大事な道具だと考えるようになりました。
返ってくるのは「はい」の確率
Jevには、メールの本文のような文章と、「このメールは返信が必要か」といった問いを一緒に渡します。すると、答えが「はい」である確率を0から1の数字で返してきます。1に近いほど「はい」、0に近いほど「いいえ」、0.5のあたりは「どちらとも言えない」です(図1)。

ほかにも「どの担当に回すか」を選択肢から1つ選ぶ、「どのくらい急ぎか」を段階で評価する、といった問いに確率つきで答えます。どれも答えの形はこちらが前もって決めておき、AIはその中から選ぶだけです。
TypeSafe社はこうしたAIを「System One(システム1)」と呼んでいます。心理学者カーネマンの『ファスト&スロー』で知られる、速く直感的な「システム1」と、遅くじっくり考える「システム2」の区別にならった名前です。
速くて安い——AIは「使い放題」ではない
チャット型のAIは、答えの文章を少しずつ組み立てながら出力します。長い答えほど時間がかかり、出力した量に応じて料金もかかります。判定するAIは文章を書かないので、そのぶん速いのです。
料金も、読ませた文章の量(入力)にだけかかり、出力は無料です。Jevの公式の料金表では、入力100万トークン(トークンはAIが文章を数える単位)あたり0.042ドル。問いも含めてメール1通を1,000トークンとすると、1通の判定は約0.006円、1,000通でも約6円です(1ドル150円で計算)。
定額のサービスが多いので実感しにくいのですが、AIは使えば使っただけ費用がかかります。個人なら気にならなくても、会社で毎日何千件と動かせば、1回あたりの差がそのまま毎月の請求額の差になります。第4回の自動化のように同じ処理を何度も回すほど、1回あたりのコストを下げる工夫が効いてきます。
図で見る——メール対応を「2段構え」にする
私はこれまで、メールに返信するかどうかの判定を、普通のチャット型AIに任せていました。今はそこにJevを入れて、2段構えにしています(図2)。

1段目で、判定するAIが全部のメールに「返信が必要か」の数字を付けます。2段目で、数字が高いメールだけを書くAIが深く読み、要点と返信の下書きを作ります。中間のものは自分で読み、送信ボタンを押すのも、これまでどおり自分です。深く読むのは本当に必要な分だけになり、数字としきい値で線を引くので、日によって判断の基準がぶれにくくなりました。
OpenAIも「Decisions API」を出した
同じ流れはJevだけではありません。OpenAIも10月6日、「Decisions API」をベータ版(正式版の前の試用段階)として開発者向けに公開しました。「はい」の確率、選択肢からの1つ、段階での評価、の3つの形で答える点はJevとよく似ています。公式ガイドによると、文章で答える通常のAPI(Responses API)と比べて約10倍速く、料金は入力100万トークンあたり0.10ドルで、出力は無料です。
「文章を書くAI」とは別に、「判定するAI」という道具の種類ができつつある。この連休で私がいちばん大きく感じた変化です。
使う前に知っておきたい3つのこと
- 数字は「確率」であって、「正解」ではない。
Jevは、「0.9」と出たものを100件集めるとだいたい90件が本当に「はい」になるように訓練されています。ただし1件ごとの正しさは保証されません。間違えたときの損が大きい判断ほど線を厳しくし、中間は人が見る。公式ドキュメントもそう勧めています - チャットAIに「0から1で答えて」と頼んでも、同じものにはならない。
その数字は文章として書かれたもので、確率として調整されたものではありません。考え方の練習にはなりますが、数字を信じて自動で振り分ける用途には向きません - まだ開発者向けで、日本語は英語ほど得意ではない。
どちらもプログラムから呼び出すAPIで、料金や仕様は変わり得ます。Jevの公式ドキュメントには、英語がもっとも精度が高いとあります。日本語で使うなら、自分のデータで当たり具合を確かめてから
データサイエンスの学びとつながる話
0から1の確率を出して、しきい値で線を引く。これは統計やデータサイエンスで学ぶ「分類」(たとえばロジスティック回帰)の考え方そのものです。線を上げれば「不要なのに必要と判定する」間違いは減り、「必要なのに見逃す」間違いは増えます。下げればその逆。どちらが困るかで線を決める。授業で出てくる「適合率と再現率」は、最新のAIを使いこなすための道具そのものです。
今日からできること——「判定」と「作文」を分けて頼む
この考え方は、いつものチャット型AIでも試せます。いきなり「全部読んで返信を書いて」と頼まず、まず判定だけを頼むのがポイントです。第3回でGmailにつないだ方は、次のプロンプトを試してください。
私のGmailで、昨日届いたメールを一覧にしてください。
それぞれについて、私が返信する必要があるかを「必要」「不要」「わからない」の3つから1つだけ選んでください。
・理由や返信の文面は、まだ書かないでください
・迷うものは無理に決めず、「わからない」にしてください
一覧が出たら、「必要」のものだけ要点と返信の下書きを頼み、「わからない」は自分で読みます。学びでも同じです。集めた資料を片っ端から要約してもらう前に、「レポートのテーマに関係があるか」をまず判定してもらい、関係のあるものだけを深く読む。この型を身につけておけば、判定するAIが身近なサービスに入ってきたとき、そのまま使えます。
社会人の実務ではこう使う
企業でAIを動かすとき、いま私がいちばん気にしているのは1回あたりのコストです。速くて安い判定するAIでまず振り分け、深く読むのは必要な分だけ書くAIに任せる。そして、最後の送信ボタンは人が押す。第4回でお伝えした「AIに段取りをさせて、人が決める」に、「AIどうしも得意なことで役割を分ける」という視点が加わりました。
参考文献
※ Jevの公式ドキュメントです(英語)。仕組みと問いの種類、名前の由来、料金と対応言語、確率としきい値の使い方を確かめられます。
TypeSafe Jev ドキュメント https://docs.typesafe.ai/introduction
TypeSafe Models(料金・対応言語) https://docs.typesafe.ai/models
TypeSafe System One(名前の由来と確率の考え方) https://docs.typesafe.ai/concepts/system-one
TypeSafe Confidence(確率としきい値の使い方) https://docs.typesafe.ai/confidence
※ OpenAIのDecisions APIの公式ガイドです(英語)。答えの3つの形、速さ、料金、提供状況が書かれています。
OpenAI Decisions API https://developers.openai.com/api/docs/guides/decisions