Source : Entertainment Capital, Auteur : Fu Mengzhen, Éditeur : James
Il y a quelques jours, quelqu'un a découvert que SparkDesk, la plate-forme d'expérience officielle du "Spark Cognitive Model" de Xunfei, avait une stipulation déroutante dans l'accord d'utilisation :
Selon une enquête d'Entertainment Capital, les règles d'expérience utilisateur de SparkDesk comportent des clauses ayant des implications pertinentes. À cet égard, nous nous sommes renseignés sur l'accord d'utilisation, les règles de test et les clauses de confidentialité de plusieurs produits modèles à grande échelle en Chine qui ont été testés publiquement. Collectez vos informations personnelles trouvées sur les canaux publics et les réseaux sociaux "et de nombreuses autres réglementations déraisonnables.
Alors, on veut vous dire dans cet article :
Quelles méthodes d'utilisation de grands modèles d'IA que vous jugez tout à fait raisonnables "violent en fait l'accord d'utilisation" ?
Comment votre saisie d'informations privées ou confidentielles dans le grand modèle sera-t-elle gérée ?
Qu'est-ce que cela signifie lorsque vous risquez de violer les conditions d'utilisation des grands modèles d'IA ?
Si vous ne faites pas attention, vous violerez l'accord
À la mi-mars, Baidu Wenxin a ouvert les tests de produits. Le 7 avril, "Tongyi Qianwen" d'Ali a lancé les tests internes. Le 17 avril, "Tiangong" de Kunlun Wanwei a lancé les tests internes. Le 24 avril, HKUST News Fei "Xinghuo Cognitive Model" a commencé tests internes.
Ils fournissent tous aux utilisateurs une "règle de test" relativement très courte pour remplacer le long contrat d'utilisation du passé, comme les "règles de test Wen Xin Yi Yan", et les utilisateurs doivent la lire et l'accepter avant de l'utiliser.
En général, ces règles de test ne disent que trois choses :
Veuillez ne pas publier de contenu illégal ;
Nous sommes encore immatures et ferons des erreurs, veuillez ne pas utiliser les résultats générés directement pour des occasions sérieuses ;
Veuillez nous donner autant de commentaires que possible.
Cependant, SparkDesk de Xunfei stipule en outre que vous ne pouvez pas rendre les choses qu'il génère, y compris son interface, publiques sous quelque forme que ce soit. C'est-à-dire qu'au moment où vous prenez une capture d'écran avec quelqu'un du groupe WeChat pour montrer votre qualification pour le test interne, vous avez déjà violé leurs conditions. Entertainment Capital Theory a trouvé le texte original correspondant dans "SparkDesk User Experience Rules":
*Étant donné que le service SparkDesk est actuellement en phase d'expérience, les informations techniques de SparkDesk sur les programmes informatiques, les codes, les données techniques, les systèmes et les logiciels d'application, les bases de données, les algorithmes, les interfaces interactives (y compris le contenu d'entrée et de sortie), la conception du produit, la sortie du produit et les informations de planification, etc. ou les informations commerciales sont classées comme informations confidentielles. *
*Vous comprenez et acceptez de garder les informations confidentielles susmentionnées strictement confidentielles ! Sans autorisation, vous ne pouvez pas divulguer, utiliser ou permettre à d'autres d'utiliser les informations confidentielles susmentionnées sous quelque forme que ce soit (y compris les captures d'écran, l'impression, les disquettes, les CD, les disques durs, les e-mails, les réseaux, les communications sans fil, etc.), ou les envoyer à sites Web, Weibo, groupes WeChat ou Moments, comptes auto-médias et autres environnements réseau. *
*Si vous violez les obligations de confidentialité stipulées dans ces règles, nous avons le droit de poursuivre votre responsabilité légale conformément à la loi. *
De toute évidence, "l'interface interactive (y compris le contenu d'entrée et de sortie)" couvre ce que nous entrons dans sa boîte de dialogue lors de l'utilisation de SparkDesk, et les résultats qu'il nous renvoie. Et souvent, nous utiliserons des captures d'écran WeChat pour les envoyer à des amis du groupe, ce qui est un geste parfaitement naturel.
Et entrez le nom de SparkDesk, et vous constaterez qu'il existe de nombreux auteurs de comptes officiels. Tout d'abord, vous avez vu cette section interdisant les captures d'écran lors de l'inscription. Après avoir cliqué sur Accepter, vous commencerez à prendre des captures d'écran immédiatement. Même si le filigrane porte son numéro de téléphone portable , vous n'aurez pas peur. .
Nous sommes très curieux de savoir comment de telles réglementations, dont on aurait dû prévoir qu'elles seraient impossibles à mettre en œuvre lorsqu'elles ont été formulées, ont été mises en place.
**Puis-je dire au grand modèle mon petit secret ? **
En plus de récupérer des informations sur le réseau public, le grand modèle conserve également les données de chat des utilisateurs et cela pour la formation, de sorte que les informations personnelles des utilisateurs ou les secrets commerciaux des entreprises risquent également d'être exposés au public. Auparavant, la division des semi-conducteurs de Samsung Electronics avait eu trois incidents de saisie de secrets commerciaux dans ChatGPT.
ChatGPT a également divulgué les informations personnelles de certains abonnés ChatGPT Plus, ce qui enfreint la politique de confidentialité GDPR de l'UE.
Alors, quelles informations les grands modèles nationaux indiqueront-ils dans l'accord qu'ils collectent auprès des utilisateurs ?
Comme ChatGPT, etc., les grands modèles d'IA nationaux recueilleront l'historique des questions et réponses des utilisateurs et des modèles. Si vous cliquez sur "J'aime" ou "Je n'aime pas" à côté d'une réponse, ces informations supplémentaires sont également collectées.
Cette collection de données de questions-réponses est principalement utilisée pour optimiser le produit. Toutefois, Baidu Wenxin a précisé que ces informations peuvent également être utilisées par Baidu à des fins commerciales.
"Règles de protection des informations personnelles Wenxinyiyan (version test)" mentionne :
*Après avoir anonymisé les informations personnelles par des moyens techniques, les informations anonymisées ne pourront pas identifier le sujet. Veuillez comprendre et accepter que dans ce cas, nous avons le droit d'utiliser des informations anonymisées ; sous réserve de ne pas divulguer vos informations personnelles, nous avons le droit d'analyser la base de données des testeurs et d'en faire un usage commercial. *
Lorsque nous affichons vos informations personnelles, nous utiliserons des méthodes telles que le remplacement de contenu et l'anonymisation pour désensibiliser et afficher vos informations afin de protéger la sécurité de vos informations. *
En fait, Baidu a déjà collecté des "images intéressantes" générées par certains utilisateurs utilisant Wenxin Yiyan, telles que "tranches de poumon mari et femme" et "poisson mandarin écureuil" et d'autres enregistrements de chat avec des textes non pertinents, et les a publiés sur le compte vidéo de Baidu et autres canaux publicitaires.
Utiliser un grand modèle comme outil de conseil est l'une des choses que les gens aiment faire après l'avoir obtenu. Les utilisateurs utilisent le grand modèle comme un trou d'arbre, et confient toutes leurs affaires privées louches à ce cyber prêtre.
Cependant, si le développeur du grand modèle ou les médias d'information utilisent votre conseil comme un cas dans lequel trop de vos propres informations personnelles sont mélangées pour être reconnaissables, cela peut vous causer de nouveaux problèmes.
Cette possibilité affecte également l'utilisation directe des versions généralistes de ces grands modèles pour le conseil psychologique.Cependant, la version commerciale les utilisant comme API peut réaliser la confidentialité des données des utilisateurs, donc j'espère que chacun réfléchit bien avant de se laisser aller à réfléchir.
Les plusieurs grands modèles nationaux qui nous préoccupent mentionnent généralement qu'ils utiliseront la "désensibilisation" pour traiter les informations privées de chacun, comme "en partant du principe qu'elles ont été anonymisées et ne peuvent pas réidentifier un individu spécifique" et d'autres expressions. Mais d'une manière générale, moins la plateforme collecte d'informations, mieux c'est, c'est la meilleure protection pour votre vie privée.
La situation réelle est à l'opposé : parce que les utilisateurs font la queue pour obtenir des lieux d'expérience, ces produits modèles à grande échelle auront tendance à donner aux utilisateurs qui soumettent leurs informations d'identité plus en détail lors de l'examen des demandes d'essai.
Les utilisateurs peuvent indiquer s'ils sont satisfaits des réponses générées par l'IA via les goûts et les dégoûts. Les développeurs espèrent également vivement que certains exemples de mauvaise génération seront les premiers à être découverts et signalés au sein de la plateforme. Cependant, ce qui est "regrettable" pour les développeurs, c'est que pour de nombreux problèmes étranges, les utilisateurs ne donnent pas docilement des commentaires internes, mais les envoient directement aux réseaux sociaux tels que Xiaohongshu et Weibo.
À l'heure actuelle, nous avons constaté que certains modèles mentionnaient dans la politique de confidentialité que si nécessaire, ils sauraient également qui est une certaine capture d'écran de leurs profils de réseaux sociaux :
*Conformément à la loi, nous obtiendrons également des informations vous concernant auprès de sources publiques ou commerciales, y compris des services de réseaux sociaux tiers. *
Les utilisateurs utilisent le grand modèle comme un trou d'arbre, et confient toutes leurs affaires privées louches à ce cyber prêtre. Utiliser le grand modèle comme outil de conseil psychologique est l'une des choses que les gens aiment faire après l'avoir obtenu.
Cependant, si le développeur du grand modèle, ou les médias d'information, font un exemple de votre conseil avec le modèle, qui contient trop d'informations personnelles sur vous-même pour être identifiable, cela peut vous donner un sentiment de perte. .
C'est peut-être la raison pour laquelle certaines applications shell GPT (certaines appelées "AI Buddha" ou quelque chose du genre) qui se concentrent sur le conseil psychologique ont été retirées des étagères. Alors j'espère que tout le monde y réfléchit avant de lâcher prise, ou si tu vois une capture d'écran, n'admets pas que c'est de ça dont tu parles, ça va.
Comme le disent les termes de Tongyi Qianwen :
*Si vous nous refusez la collecte et le traitement des informations susmentionnées, veuillez saisir attentivement les informations textuelles. Une fois que vous aurez participé à l'expérience de test, il sera considéré que vous avez accepté les conditions ci-dessus. *
**Si j'enfreins les règles, quelle sera la sanction ? **
Comme nous le savons tous, le contenu généré par l'IA est considéré depuis de nombreuses années comme non soumis à la protection du droit d'auteur dans les jugements juridiques de divers pays, c'est-à-dire que n'importe qui peut l'utiliser et le modifier. La jurisprudence de divers pays considère principalement que l'IA n'est pas un être humain, donc qu'elle n'est pas titulaire de droits de propriété intellectuelle.
Beaucoup d'utilisateurs pensent naturellement que le contenu généré sur la plateforme de grands modèles leur appartient, ou peut être consulté et modifié à volonté. Cependant, les termes et conditions des différents modèles domestiques à grande échelle que nous avons vérifiés ne sont pas tous stipulés de cette manière.
Nous avons déjà vu la "clause de confidentialité" de Xunfei Spark. Et Kunlun Wanwei Tiangong (autoproclamé "singularité" dans les termes) n'autorise pas les utilisateurs à utiliser commercialement le contenu généré. Bien sûr, il peut y avoir des considérations pour éviter les problèmes derrière cela. Après tout, le droit d'auteur de l'ensemble de données lui-même peut aussi être vague.
"Sauf autorisation écrite contraire de Singularity, vous ne pouvez utiliser les Services Tiangong qu'à des fins non commerciales. Vous vous engagez à ne pas reproduire, copier, vendre ou revendre toute partie des Services Tiangong ou l'utilisation ou l'acquisition des Services Tiangong ou à des fins publicitaires. ou à d'autres fins commerciales."*
Alibaba Tongyi Qianwen attribue le contenu appartenant à l'utilisateur à l'utilisateur. Baidu Wenxin Yiyan n'a pas établi de réglementation claire à cet égard, vous devriez donc être libre de les utiliser.
En revanche, OpenAI incarne une sorte de chaleur envers les clients : elle attribue expressément aux clients tous les droits, titres et intérêts sur le contenu généré par les utilisateurs.
À ce stade, la question se pose : si j'utilise vraiment les résultats générés par la plate-forme qui ne sont pas autorisés à des fins commerciales, serai-je arrêté ?
En fait, les utilisateurs internes de la version bêta postulent activement pour la qualification des tests de modèles nationaux à grande échelle, bien sûr pas tous pour le plaisir. Le contenu qu'ils produisent doit être utilisé dans leur propre travail autant que possible pour vraiment améliorer l'efficacité. Il semble déraisonnable que la plateforme interdise la commercialisation du contenu généré, mais considérant que les développeurs peuvent avoir des plans pour commercialiser l'API, on peut généralement comprendre pourquoi il existe une telle réglementation.
Le seul problème est, tout comme Mita Technology : comment "China's Grammarly" peut gérer le "coup de réduction de dimensionnalité" à l'ère GPT, comme l'a dit Wang Yiwei, COO de Mita Technology, à Entertainment Capital, il n'y a actuellement aucun outil dans le market Peut réellement détecter quels paragraphes sont générés par l'IA. "Si une entreprise dit que je vais m'entraîner spécifiquement pour un certain grand modèle, il est peut-être possible de détecter des traces de la production de ce modèle, mais si elle peut détecter tous les résultats générés par ces grands modèles sur le marché, alors c'est impossible ."
De plus, afin d'atteindre au maximum l'objectif de traçabilité, ces grands modèles domestiques ont adopté la méthode d'ajout de filigranes sur l'interface pour conserver les informations personnelles de l'utilisateur. Et nous avons constaté que certains plug-ins de navigateur peuvent spécifiquement supprimer le filigrane sur l'interface de ces grands modèles.
L'effet est assez parfait.
Enfin, il y a une autre question : si vous pensez qu'il y a des "clauses suzeraines" dans ces conditions, ou pour d'autres raisons, vous souhaitez annuler votre compte, cela sera-t-il difficile ?
Pour Xunfei Xinghuo et Kunlun Wanwei Tiangong, les comptes ou les laissez-passer de ces deux ne seront pas accompagnés de produits ou services particulièrement importants, c'est donc pratique (certaines personnes peuvent être des utilisateurs payants de Xunfei Dictation, etc., Ou lors de l'utilisation de l'API de Xunfei, une attention particulière doit être accordée à ce moment).
Cependant, si vous souhaitez désactiver Tongyi Qianwen, cela signifie supprimer votre compte Alibaba Cloud ; si vous souhaitez désactiver Wenxinyiyan, cela signifie supprimer votre compte Baidu. Ces deux-là sont beaucoup plus gênants.
Baidu offre aux utilisateurs de Wenxin Yiyan de multiples moyens d'accéder, de traiter et de demander la suppression des données personnelles sans supprimer leurs comptes.Des besoins personnalisés peuvent leur être envoyés pour faire appel. Cependant, il a également mentionné qu'effacer les enregistrements de dialogue sur l'interface de dialogue ne signifie pas éliminer immédiatement le cache de ces enregistrements sur le serveur :
Lorsque vous supprimez des informations de notre service, nous ne pouvons pas supprimer immédiatement les informations correspondantes du système de sauvegarde, mais nous supprimerons les informations lorsque la sauvegarde sera mise à jour.
Les termes de Tongyi Qianwen précisaient que "vous pouvez vous connecter au centre de compte et demander l'annulation du compte pour supprimer toutes vos informations." Ce centre de compte n'est pas dans l'interface de Tongyi Qianwen, mais ne peut être trouvé que dans la console d'Alibaba Cloud Cela signifie que l'annulation de votre compte signifie l'annulation de votre compte Alibaba Cloud.
En bref, avant que ces services puissent être séparés des autres entreprises attachées au compte et autorisés à être annulés séparément, il est recommandé d'utiliser votre compte moins fréquemment utilisé pour demander l'enregistrement de ces grands modèles si cela vous dérange vraiment.
Regardons OpenAI, et nous constaterons que les termes de nettoyage des données des utilisateurs sont beaucoup plus conviviaux, mais nous avons également trouvé des termes très américains, tels que la soi-disant "liste d'entités"
Écrivez à la fin
Lorsque nous interrogeons ces grands modèles sur certaines dispositions "écrasantes" du contrat d'utilisation, ce que nous demandons en réalité, c'est où se situe la frontière entre les droits et obligations de la plateforme et des utilisateurs ?
Les développeurs de modèles à grande échelle ont une gamme relativement large de collecte de données utilisateur. Ces données peuvent servir de base à de grands modèles pour améliorer les produits, mais elles permettent également aux utilisateurs de supporter de nombreux risques. En conséquence, ils sont très conservateurs dans leur responsabilité limitée et rappellent à plusieurs reprises aux utilisateurs que, en tant que fonction expérimentale, le grand modèle n'est pas responsable des problèmes ou des pertes qui surviennent après que les utilisateurs l'utilisent.
"Il n'y a pas de sécurité des données à 100 %". Les grands modèles d'IA, comme d'autres produits Internet, présentent des risques potentiels dans le processus de transmission, de stockage et de traitement des données. Cela n'entre même pas dans la manière potentiellement fuyante que ChatGPT apprend à partir du corpus d'entrée.
Bien que les développeurs prétendent "désensibiliser" les informations des utilisateurs, les utilisateurs doivent toujours vérifier régulièrement leurs paramètres de confidentialité sur ces plates-formes et prêter une attention opportune à toutes les notifications émises par les plates-formes sous des formes incertaines telles que les petits caractères et les fenêtres contextuelles.
Le contrat d'utilisation est un moyen courant pour les entreprises de conclure des contrats avec les utilisateurs. Après la signature du contrat, l'utilisateur ne peut pas demander la résiliation du contrat au motif "Je ne l'ai pas lu" ou "Je ne le savais pas". Afin de protéger au maximum vos droits légaux et la sécurité de vos informations personnelles, tous les utilisateurs doivent lire attentivement le contrat d'utilisation, la politique de confidentialité, etc., puis cliquer sur l'accrocheur "Accepter et continuer".
Yuval Harari a dit un jour dans "Une brève histoire de l'humanité": "Les gens peuvent sacrifier une certaine intimité pour plus de commodité." En effet, l'une des tendances dans le développement des grands modèles est d'améliorer la commodité de la vie humaine.Dans ce processus, il semble inévitable pour les utilisateurs de "transférer les droits à la vie privée".
Cependant, en lisant attentivement les accords et les conditions qui sont souvent ignorés par les gens, nous essayons d'attirer suffisamment l'attention sur certains endroits qui peuvent ne pas être raisonnables, et appelons ainsi à une amélioration supplémentaire de la plateforme.
Nous espérons également que la protection des droits et des intérêts des utilisateurs des modèles nationaux à grande échelle pourra être synchronisée avec l'avancement du développement des modèles, et qu'ils pourront faire des choix lors de la collecte d'informations sur les utilisateurs, en partant d'intérêts à long terme, et agir avec prudence.
Voir l'original
Le contenu est fourni à titre de référence uniquement, il ne s'agit pas d'une sollicitation ou d'une offre. Aucun conseil en investissement, fiscalité ou juridique n'est fourni. Consultez l'Avertissement pour plus de détails sur les risques.
Après avoir lu les accords d'utilisation de 4 gros modèles domestiques, je me sens mal
Source : Entertainment Capital, Auteur : Fu Mengzhen, Éditeur : James
Il y a quelques jours, quelqu'un a découvert que SparkDesk, la plate-forme d'expérience officielle du "Spark Cognitive Model" de Xunfei, avait une stipulation déroutante dans l'accord d'utilisation :
Alors, on veut vous dire dans cet article :
Quelles méthodes d'utilisation de grands modèles d'IA que vous jugez tout à fait raisonnables "violent en fait l'accord d'utilisation" ?
Comment votre saisie d'informations privées ou confidentielles dans le grand modèle sera-t-elle gérée ?
Qu'est-ce que cela signifie lorsque vous risquez de violer les conditions d'utilisation des grands modèles d'IA ?
Si vous ne faites pas attention, vous violerez l'accord
À la mi-mars, Baidu Wenxin a ouvert les tests de produits. Le 7 avril, "Tongyi Qianwen" d'Ali a lancé les tests internes. Le 17 avril, "Tiangong" de Kunlun Wanwei a lancé les tests internes. Le 24 avril, HKUST News Fei "Xinghuo Cognitive Model" a commencé tests internes.
Ils fournissent tous aux utilisateurs une "règle de test" relativement très courte pour remplacer le long contrat d'utilisation du passé, comme les "règles de test Wen Xin Yi Yan", et les utilisateurs doivent la lire et l'accepter avant de l'utiliser.
En général, ces règles de test ne disent que trois choses :
Veuillez ne pas publier de contenu illégal ;
Nous sommes encore immatures et ferons des erreurs, veuillez ne pas utiliser les résultats générés directement pour des occasions sérieuses ;
Veuillez nous donner autant de commentaires que possible.
Cependant, SparkDesk de Xunfei stipule en outre que vous ne pouvez pas rendre les choses qu'il génère, y compris son interface, publiques sous quelque forme que ce soit. C'est-à-dire qu'au moment où vous prenez une capture d'écran avec quelqu'un du groupe WeChat pour montrer votre qualification pour le test interne, vous avez déjà violé leurs conditions. Entertainment Capital Theory a trouvé le texte original correspondant dans "SparkDesk User Experience Rules":
*Étant donné que le service SparkDesk est actuellement en phase d'expérience, les informations techniques de SparkDesk sur les programmes informatiques, les codes, les données techniques, les systèmes et les logiciels d'application, les bases de données, les algorithmes, les interfaces interactives (y compris le contenu d'entrée et de sortie), la conception du produit, la sortie du produit et les informations de planification, etc. ou les informations commerciales sont classées comme informations confidentielles. *
*Vous comprenez et acceptez de garder les informations confidentielles susmentionnées strictement confidentielles ! Sans autorisation, vous ne pouvez pas divulguer, utiliser ou permettre à d'autres d'utiliser les informations confidentielles susmentionnées sous quelque forme que ce soit (y compris les captures d'écran, l'impression, les disquettes, les CD, les disques durs, les e-mails, les réseaux, les communications sans fil, etc.), ou les envoyer à sites Web, Weibo, groupes WeChat ou Moments, comptes auto-médias et autres environnements réseau. *
*Si vous violez les obligations de confidentialité stipulées dans ces règles, nous avons le droit de poursuivre votre responsabilité légale conformément à la loi. *
De toute évidence, "l'interface interactive (y compris le contenu d'entrée et de sortie)" couvre ce que nous entrons dans sa boîte de dialogue lors de l'utilisation de SparkDesk, et les résultats qu'il nous renvoie. Et souvent, nous utiliserons des captures d'écran WeChat pour les envoyer à des amis du groupe, ce qui est un geste parfaitement naturel.
Et entrez le nom de SparkDesk, et vous constaterez qu'il existe de nombreux auteurs de comptes officiels. Tout d'abord, vous avez vu cette section interdisant les captures d'écran lors de l'inscription. Après avoir cliqué sur Accepter, vous commencerez à prendre des captures d'écran immédiatement. Même si le filigrane porte son numéro de téléphone portable , vous n'aurez pas peur. . Nous sommes très curieux de savoir comment de telles réglementations, dont on aurait dû prévoir qu'elles seraient impossibles à mettre en œuvre lorsqu'elles ont été formulées, ont été mises en place.
**Puis-je dire au grand modèle mon petit secret ? **
En plus de récupérer des informations sur le réseau public, le grand modèle conserve également les données de chat des utilisateurs et cela pour la formation, de sorte que les informations personnelles des utilisateurs ou les secrets commerciaux des entreprises risquent également d'être exposés au public. Auparavant, la division des semi-conducteurs de Samsung Electronics avait eu trois incidents de saisie de secrets commerciaux dans ChatGPT.
ChatGPT a également divulgué les informations personnelles de certains abonnés ChatGPT Plus, ce qui enfreint la politique de confidentialité GDPR de l'UE. Alors, quelles informations les grands modèles nationaux indiqueront-ils dans l'accord qu'ils collectent auprès des utilisateurs ?
Comme ChatGPT, etc., les grands modèles d'IA nationaux recueilleront l'historique des questions et réponses des utilisateurs et des modèles. Si vous cliquez sur "J'aime" ou "Je n'aime pas" à côté d'une réponse, ces informations supplémentaires sont également collectées.
Cette collection de données de questions-réponses est principalement utilisée pour optimiser le produit. Toutefois, Baidu Wenxin a précisé que ces informations peuvent également être utilisées par Baidu à des fins commerciales. "Règles de protection des informations personnelles Wenxinyiyan (version test)" mentionne :
*Après avoir anonymisé les informations personnelles par des moyens techniques, les informations anonymisées ne pourront pas identifier le sujet. Veuillez comprendre et accepter que dans ce cas, nous avons le droit d'utiliser des informations anonymisées ; sous réserve de ne pas divulguer vos informations personnelles, nous avons le droit d'analyser la base de données des testeurs et d'en faire un usage commercial. *
En fait, Baidu a déjà collecté des "images intéressantes" générées par certains utilisateurs utilisant Wenxin Yiyan, telles que "tranches de poumon mari et femme" et "poisson mandarin écureuil" et d'autres enregistrements de chat avec des textes non pertinents, et les a publiés sur le compte vidéo de Baidu et autres canaux publicitaires.
Cependant, si le développeur du grand modèle ou les médias d'information utilisent votre conseil comme un cas dans lequel trop de vos propres informations personnelles sont mélangées pour être reconnaissables, cela peut vous causer de nouveaux problèmes.
Cette possibilité affecte également l'utilisation directe des versions généralistes de ces grands modèles pour le conseil psychologique.Cependant, la version commerciale les utilisant comme API peut réaliser la confidentialité des données des utilisateurs, donc j'espère que chacun réfléchit bien avant de se laisser aller à réfléchir.
Les plusieurs grands modèles nationaux qui nous préoccupent mentionnent généralement qu'ils utiliseront la "désensibilisation" pour traiter les informations privées de chacun, comme "en partant du principe qu'elles ont été anonymisées et ne peuvent pas réidentifier un individu spécifique" et d'autres expressions. Mais d'une manière générale, moins la plateforme collecte d'informations, mieux c'est, c'est la meilleure protection pour votre vie privée.
La situation réelle est à l'opposé : parce que les utilisateurs font la queue pour obtenir des lieux d'expérience, ces produits modèles à grande échelle auront tendance à donner aux utilisateurs qui soumettent leurs informations d'identité plus en détail lors de l'examen des demandes d'essai.
Les utilisateurs peuvent indiquer s'ils sont satisfaits des réponses générées par l'IA via les goûts et les dégoûts. Les développeurs espèrent également vivement que certains exemples de mauvaise génération seront les premiers à être découverts et signalés au sein de la plateforme. Cependant, ce qui est "regrettable" pour les développeurs, c'est que pour de nombreux problèmes étranges, les utilisateurs ne donnent pas docilement des commentaires internes, mais les envoient directement aux réseaux sociaux tels que Xiaohongshu et Weibo.
À l'heure actuelle, nous avons constaté que certains modèles mentionnaient dans la politique de confidentialité que si nécessaire, ils sauraient également qui est une certaine capture d'écran de leurs profils de réseaux sociaux :
*Conformément à la loi, nous obtiendrons également des informations vous concernant auprès de sources publiques ou commerciales, y compris des services de réseaux sociaux tiers. *
Les utilisateurs utilisent le grand modèle comme un trou d'arbre, et confient toutes leurs affaires privées louches à ce cyber prêtre. Utiliser le grand modèle comme outil de conseil psychologique est l'une des choses que les gens aiment faire après l'avoir obtenu.
Cependant, si le développeur du grand modèle, ou les médias d'information, font un exemple de votre conseil avec le modèle, qui contient trop d'informations personnelles sur vous-même pour être identifiable, cela peut vous donner un sentiment de perte. .
C'est peut-être la raison pour laquelle certaines applications shell GPT (certaines appelées "AI Buddha" ou quelque chose du genre) qui se concentrent sur le conseil psychologique ont été retirées des étagères. Alors j'espère que tout le monde y réfléchit avant de lâcher prise, ou si tu vois une capture d'écran, n'admets pas que c'est de ça dont tu parles, ça va.
Comme le disent les termes de Tongyi Qianwen :
*Si vous nous refusez la collecte et le traitement des informations susmentionnées, veuillez saisir attentivement les informations textuelles. Une fois que vous aurez participé à l'expérience de test, il sera considéré que vous avez accepté les conditions ci-dessus. *
**Si j'enfreins les règles, quelle sera la sanction ? **
Comme nous le savons tous, le contenu généré par l'IA est considéré depuis de nombreuses années comme non soumis à la protection du droit d'auteur dans les jugements juridiques de divers pays, c'est-à-dire que n'importe qui peut l'utiliser et le modifier. La jurisprudence de divers pays considère principalement que l'IA n'est pas un être humain, donc qu'elle n'est pas titulaire de droits de propriété intellectuelle.
Beaucoup d'utilisateurs pensent naturellement que le contenu généré sur la plateforme de grands modèles leur appartient, ou peut être consulté et modifié à volonté. Cependant, les termes et conditions des différents modèles domestiques à grande échelle que nous avons vérifiés ne sont pas tous stipulés de cette manière.
Nous avons déjà vu la "clause de confidentialité" de Xunfei Spark. Et Kunlun Wanwei Tiangong (autoproclamé "singularité" dans les termes) n'autorise pas les utilisateurs à utiliser commercialement le contenu généré. Bien sûr, il peut y avoir des considérations pour éviter les problèmes derrière cela. Après tout, le droit d'auteur de l'ensemble de données lui-même peut aussi être vague.
Alibaba Tongyi Qianwen attribue le contenu appartenant à l'utilisateur à l'utilisateur. Baidu Wenxin Yiyan n'a pas établi de réglementation claire à cet égard, vous devriez donc être libre de les utiliser.
En revanche, OpenAI incarne une sorte de chaleur envers les clients : elle attribue expressément aux clients tous les droits, titres et intérêts sur le contenu généré par les utilisateurs.
En fait, les utilisateurs internes de la version bêta postulent activement pour la qualification des tests de modèles nationaux à grande échelle, bien sûr pas tous pour le plaisir. Le contenu qu'ils produisent doit être utilisé dans leur propre travail autant que possible pour vraiment améliorer l'efficacité. Il semble déraisonnable que la plateforme interdise la commercialisation du contenu généré, mais considérant que les développeurs peuvent avoir des plans pour commercialiser l'API, on peut généralement comprendre pourquoi il existe une telle réglementation.
Le seul problème est, tout comme Mita Technology : comment "China's Grammarly" peut gérer le "coup de réduction de dimensionnalité" à l'ère GPT, comme l'a dit Wang Yiwei, COO de Mita Technology, à Entertainment Capital, il n'y a actuellement aucun outil dans le market Peut réellement détecter quels paragraphes sont générés par l'IA. "Si une entreprise dit que je vais m'entraîner spécifiquement pour un certain grand modèle, il est peut-être possible de détecter des traces de la production de ce modèle, mais si elle peut détecter tous les résultats générés par ces grands modèles sur le marché, alors c'est impossible ."
De plus, afin d'atteindre au maximum l'objectif de traçabilité, ces grands modèles domestiques ont adopté la méthode d'ajout de filigranes sur l'interface pour conserver les informations personnelles de l'utilisateur. Et nous avons constaté que certains plug-ins de navigateur peuvent spécifiquement supprimer le filigrane sur l'interface de ces grands modèles.
Enfin, il y a une autre question : si vous pensez qu'il y a des "clauses suzeraines" dans ces conditions, ou pour d'autres raisons, vous souhaitez annuler votre compte, cela sera-t-il difficile ?
Pour Xunfei Xinghuo et Kunlun Wanwei Tiangong, les comptes ou les laissez-passer de ces deux ne seront pas accompagnés de produits ou services particulièrement importants, c'est donc pratique (certaines personnes peuvent être des utilisateurs payants de Xunfei Dictation, etc., Ou lors de l'utilisation de l'API de Xunfei, une attention particulière doit être accordée à ce moment).
Cependant, si vous souhaitez désactiver Tongyi Qianwen, cela signifie supprimer votre compte Alibaba Cloud ; si vous souhaitez désactiver Wenxinyiyan, cela signifie supprimer votre compte Baidu. Ces deux-là sont beaucoup plus gênants.
Baidu offre aux utilisateurs de Wenxin Yiyan de multiples moyens d'accéder, de traiter et de demander la suppression des données personnelles sans supprimer leurs comptes.Des besoins personnalisés peuvent leur être envoyés pour faire appel. Cependant, il a également mentionné qu'effacer les enregistrements de dialogue sur l'interface de dialogue ne signifie pas éliminer immédiatement le cache de ces enregistrements sur le serveur :
Lorsque vous supprimez des informations de notre service, nous ne pouvons pas supprimer immédiatement les informations correspondantes du système de sauvegarde, mais nous supprimerons les informations lorsque la sauvegarde sera mise à jour.
Les termes de Tongyi Qianwen précisaient que "vous pouvez vous connecter au centre de compte et demander l'annulation du compte pour supprimer toutes vos informations." Ce centre de compte n'est pas dans l'interface de Tongyi Qianwen, mais ne peut être trouvé que dans la console d'Alibaba Cloud Cela signifie que l'annulation de votre compte signifie l'annulation de votre compte Alibaba Cloud.
En bref, avant que ces services puissent être séparés des autres entreprises attachées au compte et autorisés à être annulés séparément, il est recommandé d'utiliser votre compte moins fréquemment utilisé pour demander l'enregistrement de ces grands modèles si cela vous dérange vraiment.
Regardons OpenAI, et nous constaterons que les termes de nettoyage des données des utilisateurs sont beaucoup plus conviviaux, mais nous avons également trouvé des termes très américains, tels que la soi-disant "liste d'entités"
Écrivez à la fin
Lorsque nous interrogeons ces grands modèles sur certaines dispositions "écrasantes" du contrat d'utilisation, ce que nous demandons en réalité, c'est où se situe la frontière entre les droits et obligations de la plateforme et des utilisateurs ?
Les développeurs de modèles à grande échelle ont une gamme relativement large de collecte de données utilisateur. Ces données peuvent servir de base à de grands modèles pour améliorer les produits, mais elles permettent également aux utilisateurs de supporter de nombreux risques. En conséquence, ils sont très conservateurs dans leur responsabilité limitée et rappellent à plusieurs reprises aux utilisateurs que, en tant que fonction expérimentale, le grand modèle n'est pas responsable des problèmes ou des pertes qui surviennent après que les utilisateurs l'utilisent.
"Il n'y a pas de sécurité des données à 100 %". Les grands modèles d'IA, comme d'autres produits Internet, présentent des risques potentiels dans le processus de transmission, de stockage et de traitement des données. Cela n'entre même pas dans la manière potentiellement fuyante que ChatGPT apprend à partir du corpus d'entrée.
Bien que les développeurs prétendent "désensibiliser" les informations des utilisateurs, les utilisateurs doivent toujours vérifier régulièrement leurs paramètres de confidentialité sur ces plates-formes et prêter une attention opportune à toutes les notifications émises par les plates-formes sous des formes incertaines telles que les petits caractères et les fenêtres contextuelles.
Le contrat d'utilisation est un moyen courant pour les entreprises de conclure des contrats avec les utilisateurs. Après la signature du contrat, l'utilisateur ne peut pas demander la résiliation du contrat au motif "Je ne l'ai pas lu" ou "Je ne le savais pas". Afin de protéger au maximum vos droits légaux et la sécurité de vos informations personnelles, tous les utilisateurs doivent lire attentivement le contrat d'utilisation, la politique de confidentialité, etc., puis cliquer sur l'accrocheur "Accepter et continuer".
Yuval Harari a dit un jour dans "Une brève histoire de l'humanité": "Les gens peuvent sacrifier une certaine intimité pour plus de commodité." En effet, l'une des tendances dans le développement des grands modèles est d'améliorer la commodité de la vie humaine.Dans ce processus, il semble inévitable pour les utilisateurs de "transférer les droits à la vie privée".
Cependant, en lisant attentivement les accords et les conditions qui sont souvent ignorés par les gens, nous essayons d'attirer suffisamment l'attention sur certains endroits qui peuvent ne pas être raisonnables, et appelons ainsi à une amélioration supplémentaire de la plateforme.
Nous espérons également que la protection des droits et des intérêts des utilisateurs des modèles nationaux à grande échelle pourra être synchronisée avec l'avancement du développement des modèles, et qu'ils pourront faire des choix lors de la collecte d'informations sur les utilisateurs, en partant d'intérêts à long terme, et agir avec prudence.