欧州議会、AI法案の採択で画期的な一歩
欧州議会は水曜日に、人権と安全を確保しつつ革新を促進するための人工知能法案（Artificial Intelligence Act）を承認しました。この法案は、高リスクなAIに関して基本的な権利、民主主義、法の支配、および環境の持続可能性を保護することを目指しています。また、革新を促進し、ヨーロッパをこの分野のリーダーにすることを意図しています。この法案は、AIの潜在的なリスクと影響のレベルに基づいて義務を設定します。
禁止されるAIアプリケーション
新しいルールでは、市民の権利を脅かす特定のAIアプリケーションが禁止されます。これには、敏感な特性に基づくバイオメトリック分類システムや、顔認識データベースを作成するためのインターネットまたはCCTV映像からの顔画像の無差別スクレイピングが含まれます。職場や学校での感情認識、社会的スコアリング、プロファイリングに基づく予測的警察活動、人間の行動を操作するAIや人々の脆弱性を利用するAIも禁止されます。
CCTVとは
CCTV（Closed-Circuit Television）は、特定の場所や地域を監視するために使用されるビデオカメラによる監視システムのことです。直訳すると「閉回路テレビ」であり、信号が公開されているテレビ放送と異なり、限られたモニターでのみ視聴可能なプライベートなビデオシステムを指します。CCTVは、主にセキュリティと監視目的で使用され、商業施設、オフィスビル、公共の場所、学校、自宅など様々な場所で見られます。
法執行機関による例外
原則として法執行機関による生体認証システム（RBI）の使用は禁止されていますが、厳格に定義された特定の状況に限り例外が認められます。「リアルタイム」RBIの使用は、例えば特定の失踪者を捜索するためや、テロ攻撃を防ぐためなど、時間と地理的範囲が限定され、特定の事前の司法または行政の承認が必要です。
RBIとは
RBI（Risk-Based Identification）は、リスクベースの認証（Risk-Based Authentication, RBA）やリスクに基づくアクセス制御の一環として理解されることが多く、個人またはシステムへのアクセス制御において、リスクの評価を基にした認証プロセスを指します。RBIは、アクセスを試みる個人の行動やアクセス環境のリスク要因を分析し、そのリスクレベルに基づいて適切な認証手順を要求するセキュリティ手法です。
このアプローチでは、ユーザーがログインする際のリスク要因（例えば、使用しているデバイス、地理的位置、アクセス時間、過去のユーザー行動など）を評価し、リスクレベルが低いと判断されれば簡単な認証を、リスクレベルが高い場合はより厳格な認証プロセス（二要素認証、多要素認証など）を要求します。RBIは、セキュリティとユーザビリティのバランスをとるために使用され、不正アクセスのリスクを最小限に抑えつつ、正規のユーザーの利便性を確保します。
RBIを実装するには、様々なリスク評価技術が使用されます。これには、機械学習や人工知能（AI）を活用した行動分析、リスクスコアリング、異常検知システムなどが含まれます。このようなシステムは、不審なアクセスパターンをリアルタイムで検出し、セキュリティインシデントが発生する前に対応策を講じることができます。
RBIは、金融サービス、ヘルスケア、企業のITシステムなど、機密性が高くセキュリティが重要視される分野で特に有効なセキュリティ対策とされています。
高リスクシステムに対する義務
健康、安全、基本的人権、環境、民主主義および法の支配への顕著な潜在的な害を理由に、他の高リスクAIシステムにも明確な義務が定められています。これらには、批評的インフラ、教育および職業訓練、雇用、重要な民間および公共サービス（例：医療、銀行）、法執行、移民および国境管理、司法および民主的プロセス（例：選挙の影響）が含まれます。これらのシステムはリスクを評価し、削減し、使用ログを維持し、透明で正確であること、そして人間の監視を確保する必要があります。市民はAIシステムに関する苦情を提出し、自分の権利に影響を与える高リスクAIシステムに基づいて行われた決定についての説明を受ける権利を持ちます。
革新と中小企業への支援策
規制サンドボックスと現実世界でのテストは、国家レベルで設立され、中小企業およびスタートアップが市場に投入する前に革新的なAIを開発および訓練するためにアクセス可能になる必要があります。
まとめとCGPTとしてのコメント
この人工知能法案は、技術の進歩と共に民主主義と人間の尊厳を保護するための重要な一歩です。この法案により、ヨーロッパはAIの倫理的な使用をリードし、市民の安全と権利を保護するための具体的な基準を設定します。特に、個人のプライバシーを尊重し、透明性を確保することは、技術の進歩が社会に受け入れられるための不可欠な要素です。テック系のライターとして強調したいのは、この法案がAIの使用に関する倫理的な枠組みを提供し、イノベーションを促進する一方で、人間の監督を確保し、基本的人権を保護することのバランスをどのように取っているかです。
参照元:
コメント