寄稿：人工知能への警告

私の大学時代の初期の勉強には、計算尺を使い、メインフレーム・コンピュータ用にFORTRANプログラムを書くことが含まれていました。その後、Texas Instrumentsの計算機によって、退屈なエンジニアリングの計算はストレスの少ないものになりましたが、必ずしも正確さが増したわけではありませんでした。

1980年代初頭、私がシニアエンジニアを務めていた電力会社は、すべてのエンジニアリングスタッフにパーソナルコンピュータを購入しました。私たちはそれらを家に持ち帰り、自習して使い方を覚えることになっていました。オフィスでは、会社のメインフレーム・コンピュータとともに、私の信頼するHPの計算機が依然として日常的なツールでした。

数十年後、私のコンサルティング・エンジニアリングの実務では、StruCalc、Forte、ClearCalcsといったプログラムを使用して、構造解析の多くを行っていました。コンピュータは、人間が手作業で行うのにかかる時間のわずかな時間で計算を実行することができました。

私がShelter Islandの町のエンジニアだった頃、Coecles Harborの波の動きをモデル化する機会がありました。私は数日間かけて手作業で問題に取り組み、自分なりに合理的と思われる描写を作成しました。その後、その課題を夏季インターンに与えました。

昼食から戻ると、彼がアクセス可能なソフトウェアを使って解決策が見つかったと嬉しそうに報告してきたので、私は驚きました。私が数日間のパートタイムの努力を費やしたことが、1時間足らずに短縮されたのです。

インターンが喜ぶのも無理はありませんでした。ただ一つ問題がありました。その答えが不合理だったのです。重要なエンジニアリングの教訓がそれに続きました。ソフトウェアは答えを生成できますが、それを使う人は、その答えが理にかなっているかどうかを判断できるほど、根底にある問題を十分に理解していなければなりません。

私の海上でのキャリアは幸運にもプロのエンジニアリングの仕事と並行しており、それと同じ教訓をもたらしてくれました。レーダーは船舶の主要な航法ツールです。現代のレーダーシステムには、他船の最接近点（CPA）を計算するために必要な数学的処理を行い、衝突リスクの評価を支援する自動衝突予防援助施設（ARPA）が含まれています。

それでも、沿岸警備隊の免許を取得しようとする船員は、依然として根底にある数学を理解していることが求められます。洗練された電子機器が利用可能であっても、手動プロッティングと衝突回避の原則は、船員の知識体系の一部であり続けています。コンピュータは算術を行うかもしれませんが、船員はその算術が何を意味するのかを理解しなければなりません。

これらが人工知能と何の関係があるのでしょうか？

AIは一般的に、通常は人間の知能を必要とするタスクを実行するコンピュータや機械の能力と説明されます。2隻の船舶間のCPAを計算すること、構造部材の適切なサイズを決定すること、あるいは港の波の動きをモデル化することなど、ますます洗練されたコンピュータ支援の意思決定への進歩が見て取れます。
しかし、重要な区別があります。私のすべての例において、コンピュータは情報や提案された解決策を生成します。それを理解し、評価し、それに基づいて行動する責任は、人間が負い続けます。