AIは整った誤答を出す｜ソフトの既定値のまま計算されていた実例

いつもご覧いただきありがとうございます。連載の第11回です。

ここまで10回、当社のAIの使い方を書いてきました。残り2回で、この全部が前提にしていることを書きます。

この回が効くのは、リスクの低減です。

• 記録に誤りが1つ入ると、AIはそれを前提に、整った誤答を出します。
• 整っているぶん、かえって気づきにくい。
• 前提を判定できるのは人です。とくに「常識に反していないか」は経験からしか出ません。

AIは、記録を疑わない

第1回で、当社は引き継ぎファイルを38本持っていると書きました。第3回では、共通ルールが5万3千字あると書きました。作業要領は12本です。

AIは、これらを正しいものとして読みます。

たとえば引き継ぎファイルに、柱の断面が誤って書いてあったとします。AIはその断面で図面を描き、その断面で検算し、その断面を前提に部材リストを作ります。全部、整合します。

ここが厄介なところです。誤った前提から出てきた成果物は、内部的には矛盾していません。図面と計算書の数字は一致します。部材リストとも合います。第7回に書いた「別のセッションによる検算」も通ってしまいます。検算しているのは「書いてあることと実物が合っているか」だからです。

整っているぶん、かえって気づきにくい。手書きの時代なら、明らかにおかしい数字は書いている途中で違和感が出ました。整った出力には、その違和感がありません。

つまり、この連載で書いてきた仕組みは、全部「記録が正しいこと」の上に乗っています。土台が傾けば、上に建てたものは全部傾きます。

実際にあった例

抽象論では伝わらないので、実例を挙げます。いずれも当社で実際に起きたことです。

1. 表そのものが古かった

AIが基礎の寸法を誤ったことがあります。参照した表の値をそのまま使ったのですが、その表自体が古いものでした。

AIの処理は正しく、参照も正確でした。参照先が間違っていただけです。この種の誤りは、AIには見抜けません。

このとき記録に残したのは「気をつける」ではなく、寸法を決める計算式そのものでした。以後は、表を見つけても必ずその式で検算します。表と式が食い違えば、そこで止まります。

2. ソフトの既定値が、そのまま計算されていた

既存の建物を現行の基準に照らして評価する業務でのことです。

計算結果を確認したところ、柱脚のアンカーボルトがM20で計算されていました。図面を見ると、実際は4-M16です。ソフトの既定値がM20で、そこが変更されていなかった。

検定比は0.57から0.71に変わりました。判定が変わりうる差です。

同じ案件で、ほかにも3つ見つかりました。基礎の計算が実行されておらず「該当しない」と出力されていたこと。地盤の許容支持力度が省略値のままだったこと。設計者の情報欄が空だったこと。

いずれも、出力は整っていました。「該当しない」は、計算していないという意味だったのに、出力を読む限りでは該当しないように読めます。

これに気づくには、「この規模の建物でこの章が空になるはずがない」という感覚が要ります。これはAIには持てません。

3. マニュアルに式が載っていなかった

柱脚のベースプレートの面外曲げについて、ソフトのヘルプに計算式が載っていませんでした。

こういうとき、いちばんやってはいけないのが「たぶんこうだろう」で埋めることです。前回の連載の最終回に書いたとおり、推測で埋めた前提の上に作業が積み上がり、外れていたことに気づくのはずっと後になります。

やったのは逆でした。出力された値から式を逆算し、条件の違う2ケースで一致することを確かめてから使いました。その結果を記録に残しています。

「マニュアルに載っていないので、こう推定した」ではなく、「2ケースで検証して確定した」と書けるかどうか。この差が、1年後の記録の信頼性を決めます。

4. 「読み込めない」のは、中身のせいではなかった

第8回に書いた、ST-Bridgeを9版作り直した話です。

原因はファイルの中身ではなく、ソフト側の読み込みモードの選択でした。「中身が悪いはずだ」という前提が誤っていたので、その前提の上でいくら試しても解決しませんでした。

このとき記録に残したのは、「まず読み込みモードを疑う。中身を疑うのはその後」という順序でした。順序が書いてあれば、次は9版も要りません。

では、誰が誤りを排除するのか

以上の4つに共通しているのは、AIの処理は正しかったということです。誤っていたのは前提のほうでした。

前提を判定できるのは、人です。当社では、記録に何を書き、何を書かないかを、次の4つで判断しています。

判定	中身	誰にできるか
出典があるか	便覧、基準書、ソフトのマニュアル、既存の正常なデータ。どれかで裏が取れるか	調べれば誰でも
桁と単位が合うか	自重の積み上げと鉛直反力の総和が合うか、など	手順を決めれば機械にもできる
常識に反していないか	この規模でこの数字は出ない。この章が空になるはずがない	経験からしか出ない
現場で成立するか	この納まりは施工できない。この鋼材は現地で手に入らない	経験からしか出ない

上2つは仕組みに載せられます。下2つは載せられません。

そして、AIが誤った出力をするとき、たいてい引っかかるのは下2つのほうです。上2つで弾ける誤りは、そもそも仕組みが弾いています。

「指示の質は経験からしか出ない」の、その先

前回の連載の第1回で、こう書きました。

AIに何をさせるかを決められるのは、その作業を自分でやったことがある人間だけです。

この連載を書き終えて、もう一段あることが分かりました。

記録の質も、経験からしか出ません。

何を書くかだけではありません。

• 何を書かないか。確証のないものを、確証があるように書かない
• 何を消すか。古くなった記述を残すと、次が誤読する（第6回）
• 確定してよいかの判断。当社では検討中のものに「未確定」の印を付けています。確定に切り替える判断は、こちらがしています
• どれが効いたのかの判断。第4回に書いた「うまくいった型」の5項目は、AIに分析させたものですが、5項目に絞ったのはこちらです。うまくいった日には20も30も要因の候補が挙がります。そのうち本当に効いたのがどれかを見分けるのは、経験の仕事です

AIは記録を書けます。しかし、記録に何を残す価値があるかは決められません。

発注者・意匠事務所にとって何が良くなるか

項目	内容
リスクの低減	整った誤答を、経験で弾いています。仕組みでは弾けない種類の誤りです

おわりに

次回が最終回です。では、その記録を管理しているのは誰なのか。当社の立ち位置を書きます。

国内・海外を問わず、構造に係ることでしたらお問い合わせからご相談ください。新築の構造設計、耐震診断と補強設計、構造計算のレビュー、企画段階のコンサルティング、海外基準での設計まで承っています。

これまでのプロジェクトはギャラリーに、当社の考え方はポリシーにまとめています。

第10回｜うちは「運用」で取りに行く