AI関連の問いです。
トークンマキシングからトークンマネジメントへ ★は観省庵補足
・資源は限られている★
・限られた資源の上、最大の成果を出したい★
・上記を指標化したいときにROI(投資対効果)は使われる★
・この考え方は今後AI利用時のトークンにも適用される
・海外ではトークンオプティマイゼーションと呼ばれることもある
・トークンとは、ChatGPTやGeminiなどのAIにおいて、言葉を理解・処理するための最小単位(パズルのピース)
・広告費をCPAなどの値で管理するようにトークンも管理する必要がある
・今のAIは各社が赤字を許容して、ユーザに浸透させる時代、これからいつ値上げが来てもおかしくない
・そのタスクは、本当にそのモデルを使うべきだったのかという問いが大事
・AIへの入力は最終的にすべて「プロンプト」という形に変換される
・プロンプトを見れば、その人がAIに何をやらせているかがほぼわかる
・誰が、どのモデルに、何トークンつかっているのかをまず可視化する
・「今日の天気は?」のような問いに、最上位の推論モデル(Claude Opus 4.8やGPT-5.5など。2026年5月現在の最新モデル)を使うのは、明らかに過剰
・トークンマネジメントは経営イシューそのものになった
引用元
https://x.com/fukkyy/status/2061285149774663814
「なぜこれほど多くのトークンを使っているのか。トークン効率としてはむしろ最悪のことをやっているケースが少なくない」「次の1年で誰もが取り組むのは、AIを効率化するためのツール利用とソフトウェアだ」
これからは、トークン消費とそれに伴うコストを、人件費と並べて議論しなければならない」「使った分だけ顧客に届く機能が増えている、その直線が引けないのなら、このトレードオフは正当化が難しい」