AIエンジニアリング、始めませんか？

2023年6月、Latent Spaceが「The Rise of the AI Engineer」を発表した。 基盤モデルのAPI化により、従来5年かかっていたAIタスクが「APIドキュメントと午後の数時間」で実現可能になった。 この変化が、新しい職種「AIエンジニア」を生み出している。

複雑なエージェントやファインチューニングの前に、シンプルなAPIコールで十分に価値あるプロダクトを生み出せる時代。 AIエンジニアリングとは何か、どう始めるか、そして何を避けるべきかを整理する。

この変化により、機械学習エンジニアとフルスタックエンジニアの間に位置する新しい職種「AIエンジニア」が誕生する。 アプリケーションへのAI組み込み・適応に特化し、今後10年間で最も需要の高いエンジニアリング職になる可能性がある。

端的にまとめると、「APIを叩いてAIをプロダクトに組み込む人」がAIエンジニア。 Model-as-a-Serviceの登場を背景に、私は「APIライン」という概念で説明したい。 これはAIエンジニアにとっての「国境線」のようなものだ。 国境の上（API側）で働くか、下（モデル側）で働くかで、必要なスキルセットがまるで違う。

まず、撃つ (Fire, Ready, Aim)

MLエンジニアリングは「データ収集→モデル訓練→プロダクト化」という順序だが、AIエンジニアリングは逆。「まずデモを作り、迅速にイテレーションを回す」。 私はこれを「AIプロトタイピングの逆転」と呼んでいる。 昔は「データがないと何も始まらない」だったのが、今は「まず動くものを見せてからデータを集める」。 アイデアを素早くデモの形にし、フィードバックを得てイテレーションを回せることが基盤モデルの強み。

プロンプトの「次」を知る

シンプルなプロンプトで価値が出せたら、次のステップ。 AIエンジニアの腕の見せ所は、プロンプトで足りない部分を RAG、ワークフロー、エージェント、ファインチューニングといったモデル適応技術で補うこと。

でも、この図を眺めているだけじゃピンとこない。
実際に「どれを選ぶか」を判断してみよう。

“evals are surprisingly often all you need”

評価さえあれば、驚くほどそれだけで十分なことが多い

— Greg Brockman, OpenAI共同創業者（2023年12月）

この一言に、AIエンジニアリングの本質が凝縮されている。 複雑なアーキテクチャや最新のテクニックよりも、 まず「良し悪しを測る物差し」を手に入れること。 それがあれば、改善の方向性は自ずと見えてくる。

AIの出力は非決定的（毎回同じとは限らない）であり、 LLMの出力には唯一の絶対的な正解が存在しないことが多い。 「なんとなく良い」という感覚的な開発では、プロダクトの品質は安定しない。

ML・機械学習の知識やベストプラクティスの多くは、基盤モデルを前提としたAIエンジニアリングでも色褪せない先人の知恵。 同時に、プロンプトインジェクションやオープンエンドでの評価、他社モデル依存といった 生成AI/LLMならではの課題も生まれている。

AIエンジニアリングは、AI/LLMの持つ非決定性や確率的な振る舞いを工学によって制御し、 プロダクトの要件を理解し、AIを組み合わせ、高速にアプリケーションを作り、 粘り強く評価する、という「AI時代のソフトウェアエンジニアリング」そのもの。