AIエージェントが役立つのは、まさに自分で行動するからです — そしてそれがリスクの理由でもあります。ユーザーが実際に直面する4つのリスクと、効く安全対策を、不安をあおらず、甘く見ずに説明します。
エージェントは「わかりません」とはほとんど言いません：間違っているときでも流暢な答えを作ります — 作り話の価格、ずれた日付、ニュアンスを逆にした要約など。危険なのは、あなたが気づく大きな間違いではなく、見過ごしてしまうもっともらしい間違いです。安全対策：関わりが大きいこと（お金、顧客、評判）では、出典の引用を求め、大事な箇所を読み直してください — あるいは行動の前に人間の確認を設定してください。
従量制のエージェントが狙いを間違えると、同じ行動を何百回も繰り返すことがあります：記録された事例では、枠組みの甘い作業の1日で、コードエージェントがAPI呼び出しに数百ドル使ったケースがあります。安全対策：タスクごとのステップ数の上限、1日あたり・エージェントごとの支出上限 — 単なるアラートではなく、本当に止まる仕組みで — そして毎週見るコスト明細です。技術的な用途では、LiteLLMがまさにそのためのツールです；Langfuseは各実行を後から再生できるようにします。
仕事をするために、エージェントはあなたのメール、文書、ときにはフォルダ全体を読みます。そのデータはツールの提供元とモデルの提供元を通ります — 多くの場合アメリカです。安全対策：必要なフォルダだけを許可し、データがどこにホストされ、モデルの学習に使われるかどうかを確認し（可能な場合は無効にし）、本当に敏感なデータについては、ローカルで動くモデル（Ollama（ローカルエージェント））か、欧州の提供元であるMistral Vibe（旧Le Chat）を選んでください。QuébecではLoi 25が、Québecの外への個人情報の提供を規制します；欧州ではGDPRです：どちらの場合も、責任はあなたの側に残ります。
初期ユーザーが語る事故のほとんどは、同じ原因です：初日から、送る・支払う・削除する権限を与えられたエージェントです。安全対策：まず読み取り専用から始め、次に「下書き」モード（エージェントが準備し、あなたが送る）にし、自律的な行動を開くのは、数週間結果を読み直したタスクだけにしてください。デフォルトで禁止すべきもの：確認なしの支払い、新しい宛先への送信、完全な削除です。
エージェントを、試用期間中のとても速い従業員のように扱ってください：書面の範囲、数字で決めた制限、何をしたかの記録、そして示された信頼に応じて広がる責任 — 決して逆ではありません。本サイトのすべてのページは、そのツール固有の安全対策で終わります；真剣に受け止めてください。初期ユーザーの実際の事故から生まれたものだからです。
カタログの111件のページを見る →