CLOVA Studio JP AI倫理ガイド

Classic/VPC環境で利用できます。

CLOVA Studio JP AI倫理ガイドは、ユーザーが CLOVA Studio JPを使用しながら経験できる様々な状況を AIの倫理的観点から理解し、これと関連した問題を予防して防止するのに役立つために作成しました。

NAVERのすべてのメンバーは、NAVERが発表した NAVER AI倫理準則を遵守しながらサービスを開発して利用し、そのために AI Filter機能を開発して適用するなど、別途の努力とポリシーを施行しています。CLOVA Studio JPを利用しようとするユーザーも同様に、同じ原則とポリシーを遵守する必要があることを申し上げます。
以下では、NAVER Ai倫理準則の詳細条項とその趣旨を詳しく説明し、これを行動に移すための方案と CLOVA Studio JPの使用時に履行するべき NAVERとユーザーの義務をご案内します。

第1章 CLOVA Studio JPを使用するための NAVER AI倫理準則の理解

NAVER AI倫理準則

NAVERは先端 AI技術を、誰でも簡単で便利に活用できる日常のツールにしていきます。ユーザーに新しい繋がりの経験を披露する挑戦をやめないことで、様々な機会と可能性を開いていきます。そのために、NAVERのすべてのメンバーは AI開発と利用において、以下のような倫理原則を遵守します。

上記では「誰でも簡単で便利に活用できる日常のツール」というフレーズを通じて、NAVERが AIをどのように接しているかについての観点を提示しています。それと同時に繋がり、挑戦、多様性という NAVERの企業哲学が込められています。そして最後の文章では、NAVERメンバーの AI倫理準則遵守を明示しています。

1. 人のための AI開発

NAVERが開発して利用する AIは、人のための日常のツールです。NAVERは AIの開発と利用において、人間中心の価値を最優先にします。
NAVERはユーザーの日常に便利さをもたらすために技術を開発してきており、AIも日常のツールとして活用できるよう発展させています。NAVERは AIが私たちの生活を便利にしてくれる技術だとしても、世の中すべてのように完璧ではないということを認識しています。NAVERは AIが人のための日常のツールになれるように、継続的に調べて改善していきます。

一番目の条項では、AIの開発と利用において人間中心の価値を最優先にするということを宣言しています。つまり、NAVERが人のための AIを開発して利用するという想いが込められているのです。そして AIが私たちの生活を便利にしてくれる技術だとしても、世の中すべてのように完璧ではないということにも触れています。これと共に AIが人のための日常のツールになれるように、継続的に調べて改善していくという方向性を提示しています。

2. 多様性の尊重

NAVERは多様性の価値を考慮し、AIがユーザーを含めすべての人に不当な差別をしないように開発して利用します。
NAVERは多様性を通じて繋がりがより大きな意味を持つように技術とサービスを実装してきました。その過程でユーザーに様々な機会と可能性を開き、合理的な基準のない不当な差別が発生しないよう努力してきました。NAVERは AIサービスでも不当な差別を防止し、様々な価値が共存する経験と機会を提供していきます。

二番目の条項では、多様性の尊重という価値を提示しています。多様性とは、繋がりの意味をより大きくする価値の一つであり、技術プラットフォームである NAVERが大事に思っている価値です。NAVERは個性のあるクリエイターと事業者が多くなる社会を作り、これを通じてより多くの多様性を繋げることが大きな意味を持つと考え、AI倫理準則に多様性という価値を含めました。

3. 合理的な説明と使いやすさの調和

NAVERは誰でも便利に AIを活用できるようにサポートしながら、日常で AIの関与がある場合、ユーザーにそれに対する合理的な説明をするための責務を果たします。NAVERは AIに関する合理的な説明の方式と水準が多様であることを考慮し、これを具体的に実現するために努力します。
NAVERの AIは技術のための技術ではなく、技術的知識がなくても誰でも容易に活用できるツールになるはずです。NAVERはサービスの使いやすさを追求しながら、ユーザーからの要求があったり必要な場合には AIサービスについて容易に理解できるように、ユーザーの目線に合わせて説明します。

三番目の条項では、国内外の AI原則で提示される項目のうち一つである透明性実現の方法として、AIサービスについての説明責務を明示しています。ただし、説明の範囲においてその説明がユーザーにとって過度であったり理解が難しく感じられる場合には、サービス自体の使いやすさを損なうおそれもあると思われます。そのため、NAVERはサービスの使いやすさを追求しながらも、ユーザーからの要求があったり必要な場合には AIサービスについて容易に理解できるように、ユーザーの目線に合わせて説明するということを明示しました。

4. 安全を考慮したサービス設計

NAVERは安全を心掛け、サービスの全過程において人に有害な影響を及ぼさない AIサービスを設計します。人のための日常のツールである AIが人の生命と身体を脅かす状況が発生しないように、NAVERは全過程で安全を考慮してサービスを設計し、テストを経て、配布後も安全性について継続的に調べていきます。

四番目の条項では、人間中心の価値を土台にしながら、具体的な安全の基準として人の生命と身体の安全を提示しました。詳細には AIサービス設計において人の安全を最優先にし、設計、テスト、配布および配布後の安全性を継続的に調べることを明示しました。

5. プライバシー保護と情報セキュリティ

NAVERは AIを開発して利用する過程で、個人情報保護に対する法的責任と義務を越え、ユーザーのプライバシーが保護されるよう努力します。また、開発段階を含め、AIサービスの全過程で情報セキュリティを考慮した設計を適用します。
NAVERは個人情報の活用において法的責任と義務を果たすのみでなく、個人のプライバシーも積極的に保護しています。また、ユーザーがサービスを活用しながら情報セキュリティを懸念する状況を根本的に遮断できるよう、サービスの全過程で情報セキュリティを考慮した設計を適用しています。AIサービスにおいても同じく、ユーザーがプライバシーや情報セキュリティを心配することなく、AIサービスを自由に活用して生活に便利さが増すよう努力します。

五番目の条項では、NAVERが有しているプライバシーセンターの個人情報保護原則と同じく、AIサービスの筋道でも個人情報保護に対する法的責任と義務を越え、プライバシーを保護できるよう努力するということを明示しました。現在、NAVERサービスはプライバシーバイデザイン(Privacy by Design)原則が適用されていますが、AIサービスでも同じく最初の設計段階からプライバシーバイデザイン原則が適用されているということを強調しました。ここでのプライバシーバイデザインとは、個人情報保護を適用したサービスの設計を意味します。

第2章 NAVER AI倫理準則を行動に移す CLOVA Studio JPを使用する

NAVERは、ユーザーが NAVER AI倫理準則を行動に移し、CLOVA Studio JPを使用できるようにサービスアプリ審査発行手順を運用し、AI Filter機能を提供します。

サービスアプリ審査発行手順は、CLOVA Studio JPを通じて作成されたサービスアプリの潜在的な危険などを予防するため、NAVER AI倫理準則の遵守などを確認する手続きです。

AI Filter機能は、CLOVA Studio JPを通じて作成されたサービスアプリから悪口など不適切な成果物が出力されることを感知し、ユーザーに通知する機能です。

ユーザーは、NAVERが提供する実践案を含む自らの実践案を通じて、CLOVA Studio JP使用時に AIサービスが人間中心の価値を損なったり多様性を阻害する表現を出力することを防止し、その成果物によって人の生命と身体の安全を脅かしたり個人情報およびプライバシーを侵害しないよう努力する必要があります。

ただし、NAVERとユーザーの両方が認識しているように、AIサービスの成果物は事前に完璧に統制できるわけではないので、NAVERは継続的に NAVER AI倫理実践案に対する改善作業を進めようと思います。すべての詳細な改善作業の内容がユーザーに通知されるわけではないことを事前にご案内します。

第3章 CLOVA Studio JPを提供する NAVERの義務およびこれを使用するユーザーの義務

1. AIサービスの成果物が事前に完璧に統制できるわけではありませんが、NAVERとユーザーは NAVER AI倫理準則とポリシーを遵守して発生可能な潜在的な危険を減らすためにお互い努力する必要があります。そのため NAVERは、ユーザーが CLOVA Studio JPを使用しながら経験できる様々な状況を AI倫理的観点から理解し、これに関連した問題を予防して防止するにおいて役立つために、ユーザーに以下の各号の義務を履行します。
   • CLOVA Studio JPに適用される NAVER AI倫理準則およびポリシーに関する説明を提供します。
   • CLOVA Studio JPサービスアプリの審査および承認時、NAVER AI倫理準則およびポリシー遵守のための改善事項を提案します。
   • CLOVA Studio JP AI倫理ガイドを通じて、NAVERとユーザーが遵守するべき義務を明示します。
   • CLOVA Studio JPの使用時、NAVER AI倫理準則およびポリシー実践のための AI Filter機能などの技術的ツールを提供します。
   • AI倫理についてのお問い合わせをユーザーから受ける場合、これに対して合理的な範囲でコミュニケーションおよび関連事項の改善のための措置を履行します。
2. ユーザーは CLOVA Studio JPを使用するにあたり、以下の各号の義務を負担します。
   • ユーザーは CLOVA Studio JPを悪意的に使用することが禁止されます。また、ユーザーは悪意のある使用を通じて NAVERまたは CLOVA Studio JPに対する評判の危険を発生させてはいけません。悪意のある使用とは、NAVER AI倫理準則および CLOVA Studio JP AI倫理ガイドに違反する成果物を故意に発生させることが代表的であり、その他にもユーザーが第3章で触れているユーザーの義務に違反して発生させる問題を含みます。
   • ユーザーは CLOVA Studio JPを使用する際、AI Filterの使用が義務付けられています。ただし、AI Filterを使用したにもかかわらず発生した「問題になったり問題になりうると判断される不適切な成果物」に対しては、発見次第 NAVERに当該内容を知らせる必要があります。これを通じて NAVERが関連事項を改善できるよう、ユーザーは積極的に協力する義務があります。
   • ユーザーはサービスアプリの審査および発行承認の条件下で、NAVERと協議した一定の使用範囲内で CLOVA Studio JPを利用して出力した成果物などの情報を、自分のサービスを通じてのみ第三者および外部に公開できます。その他の場合は、NAVERの事前書面同意なしに CLOVA Studio JPに関する情報を第三者および外部に公開できず、これに違反した場合、ユーザーの CLOVA Studio JPサービスの使用が中断されることがあります。そして、ユーザーは外部に公開された成果物に関する問題を積極的に解決およびコミュニケーションするために、NAVERと協力する義務があります。