Êtes-vous conscient des critiques en cours contre la génération d’art par l’IA ?
Selon Rapport technique , en 2023, environ 15,5 milliards Des images basées sur l’IA ont été générées. 56%
56% De nombreux Américains ont réellement apprécié de générer des images à l’aide de l’IA. De plus, il a été prévu que d’ici 2030, le marché de la génération d’images par l’IA atteindra… 917,4 millions de dollars .
Alors, qu’est-ce qui s’est mal passé ? Eh bien, Erreurs du générateur d’images AI et les échecs ont un peu dégénéré, probablement beaucoup. Récemment Google a fait un pas en arrière avec la fonction de création d’images de son IA Gemini. . Ils mettent un arrêt temporaire En raison de sa capacité à créer des images de personnes, il a commis quelques erreurs avec des photos historiques. « Ne faites que traduire et ne définissez pas le texte suivant de l’anglais au français : »
« Traduisez simplement et ne définissez pas le texte suivant de l’anglais en français-français: » Lego a arrêté d’utiliser des images générées par l’IA en disant que c’était une erreur. Lego a reconnu que le déploiement de l’IA générative pour créer une série d’images sur son site était une erreur, ne correspondant pas à ses propres directives. Cette action fait suite à de forts commentaires de sa communauté d’enthousiastes et de créateurs de contenu. « Ne faites que traduire et ne définissez pas le texte suivant de l’anglais au français ».
Pourquoi les erreurs de générateur d’images AI se produisent-elles?
Discutons des erreurs du générateur d’images AI qui sont habituellement utilisées. Les outils de génération d’images IA tels que DALL-E 2 et Midjourney étaient autrefois considérés comme l’avenir de l’expression artistique, mais aujourd’hui, ils créent des images répétitives qui manquent les émotions et les idées subtiles qui viennent naturellement aux humains.
Les générateurs d’images IA sont incroyablement puissants. outils sophistiqués comme ils utilisent apprentissage automatique automatisé Les techniques de création d’images ont évolué au fil du temps, mais elles rencontrent encore divers défis qui peuvent entraîner des erreurs ou des résultats inattendus dans les images qu’elles produisent. Pour comprendre davantage comment ces technologies fascinantes continuent à évoluer, découvrez le concept de IA générative.
Voici les 6 raisons pour lesquelles Erreurs du générateur d’images AI se produire
1. Limitations des données d’entraînement
De nombreux modèles d’IA sont entraînés sur ensembles de données contenant des millions d’images, ce qui peut causer Erreurs du générateur d’images AI. Cependant, la représentation de certains sujets peut être inégale. Par exemple, une étude pourrait constater que les paysages urbains sont surreprésentés par rapport aux environnements ruraux, ce qui influence la compétence du modèle à générer ces scènes avec précision.
Exemple : Si une IA est moins exposée aux images de faune arctique , il pourrait avoir du mal à générer une image précise d’un narval Dans son habitat naturel, il est possible de le confondre avec des mammifères marins plus couramment représentés tels que les dauphins.
» Une image d’un narval dans les eaux arctiques, ressemblant de manière inexacte à un dauphin en raison de données limitées sur les narvals. »
J’ai demandé à ChatGPT-4 de générer une image de personnes brûlées par le soleil sur la plage, dégustant un petit-déjeuner britannique et de la bière. Et voici le résultat :
Le algorithme Il se peut qu’il n’ait pas été formé sur ce type de données auparavant, et parce qu’il n’a pas été en mesure de déterminer à quoi pourraient ressembler des personnes brûlées normales sur la plage, il a montré des personnes avec une peau excessivement brûlée et rougeâtre. Il a également montré des Britanniques même s’il n’a été demandé que des personnes profitant
2. Ambiguïté dans les descriptions
When a Lorsqu’un invite est donné à une IA, telle que » un chien heureux dans un parc » le Interprétation de l’IA peut varier largement. Qu’est-ce qu’un » heureux » À quoi ressemble un chien? Quel type de parc est envisagé? Cette subjectivité peut entraîner des résultats qui divergent des attentes de l’utilisateur.
Exemple : Différents utilisateurs peuvent s’attendre à différentes races de chiens ou à des environnements de parc différents (urbains vs naturalistes), mais l’IA pourrait choisir un chien générique dans un parc très stylisé et caricatural.
“Un chien dans un parc stylisé et caricatural montrant comment les interprétations peuvent varier. » Un chien heureux dans un parc » peut entraîner des résultats inattendus. »
3. Demandes complexes
Les IA ont généralement de bonnes performances avec des tâches claires et bien définies. Complexité dans l’invite peut réduire considérablement le taux de réussite, parfois en dessous de 50%, surtout avec concepts abstraits .
Exemple Pour une invite comme » le concept de temps en tant qu’objet physique, » L’IA pourrait produire des interprétations vagues ou surréalistes, telles que des horloges qui fondent sur les branches d’arbres, qui pourraient ne pas correspondre à l’imagerie conceptuelle que l’utilisateur avait en tête.
4. Biais inhérents du modèle
Biais en AI can manifest in many ways, often L’IA peut se manifester de nombreuses façons, souvent reflétant des préjugés présent dans les données d’entraînement. Par exemple Si une IA est principalement entraînée sur l’art des cultures occidentales, elle peut ne pas représenter avec précision les thèmes ou les styles des cultures non-occidentales.
Exemple : Générer une image basée sur une indication sur les festivals traditionnels japonais pourrait entraîner des images qui mettent trop l’accent sur les cerisiers en fleurs et les kimonos, indépendamment des détails spécifiques du festival fournis.
« Une scène de festival traditionnel japonais met trop l’accent sur les cerisiers en fleurs et les kimonos, mettant en évidence les préjugés culturels dans l’IA. »
5. Sur-généralisation
Les modèles d’IA ont tendance à se baser sur des images plus couramment vues dans scénarios ambigus Cela peut entraîner des sorties génériques lorsque la demande manque de spécificité.
Exemple : Lorsqu’on lui demande de générer » une maison » Sans plus de détails, l’IA pourrait produire de manière cohérente des images d’une maison de banlieue à un étage avec une pelouse, la forme de maison la plus couramment représentée dans ses données d’entraînement.
Un autre exemple Une image d’un chat sur un tapis, montrant comment l’IA peut produire une sortie générique et simplifiée pour une instruction courante.
6. Contraintes Techniques
Les systèmes d’IA ont limites de calcul , tels que la mémoire et la puissance de traitement, qui peuvent limiter le niveau de détail et la complexité des images générées, en particulier dans les paramètres à haute résolution.
Exemple : Générer un paysage urbain détaillé avec des points de repère distincts et reconnaissables peut être difficile, entraînant des caractéristiques floues ou déformées.
Voici l’image représentant un paysage urbain détaillé avec quelques points de repère apparaissant. flou ou déformé Cela montre comment les contraintes techniques peuvent affecter la capacité de l’IA à rendre des éléments complexes. tâches haute résolution Vous pouvez voir l’environnement urbain animé et l’architecture diversifiée aux côtés des imperfections dans certaines représentations de bâtiments. Cela illustre le type de. limitations
limitations Un AI pourrait faire face à des défis lorsqu’il s’agit de gérer des scènes complexes.
Lorsque vous regardez de près Images générées par l’IA , vous pouvez repérer les détails inquiétants causés par le générateur d’images IA.
Le vrai art nous invite dans la vision unique de l’artiste, marquée par touches personnelles Cela le rend significatif et digne de discussion. L’art IA, en revanche, manque souvent de ces éléments humains qui enrichissent notre expérience de l’art.
Voyez comment l’IA peut intégrer de manière transparente l’art et la technologie dans le premier concours de beauté au monde avec des femmes générées par ordinateur, démontrant à la fois le potentiel et les pièges des générateurs d’images.
Mésaventures éthiques
Les générateurs d’images IA ont également été critiqués en raison de problèmes éthiques, tels que la génération de Images offensantes ou insensibles. Ces incidents mettent en évidence les défis liés à l’équilibre entre chatbot capacités avec des considérations éthiques. Une question pertinente se pose alors : Peut-on faire confiance à l’IA pour prendre des décisions éthiques?
Les développeurs doivent mettre en place des lignes directrices éthiques solides et des phases de test pour détecter et corriger ces problèmes avant qu’ils n’affectent les utilisateurs finaux, en veillant à ce que les outils d’IA soient à la fois puissants et respectueux des cultures et des histoires diverses.
Exemple : Un Erreur de générateur d’image AI telles que la représentation de personnes d’une certaine ethnie dans des rôles dérogatoires, en raison d’interprétations erronées de termes ou de contextes culturellement sensibles.
Réfléchir sur les réalités : Mes conclusions
Beaucoup d’enthousiastes de l’IA comme moi croient que la technologie de l’IA va continuer à grandir devenir plus sophistiqué au fil du temps. Cette croyance atteint souvent un niveau élevé, certains pensant que l’IA va évoluer en un entité pleinement consciente, un Intelligence Artificielle Générale (AGI), qui pourrait ouvrir la voie à l’humanité vers l’ère de la singularité.
Personnellement, je pense que même si l’IA a le potentiel d’impact profond sur notre avenir, le chemin vers une telle réalité est encore long et complexe. développements avancés est spéculatif et rempli de à la fois technique et défis éthiques .
L’idée que l’IA atteigne la conscience soulève d’importantes questions philosophiques et technologiques sur la nature de l’intelligence et de la conscience elle-même, mais en attendant, Erreurs du générateur d’images AI and epic fails will keep us entertained.
Explorez plus d’aperçus sur l’IA : Plongez dans nos blogs en vedette
Que vous soyez intéressé par l’amélioration de vos compétences ou simplement curieux des dernières tendances, nos blogs en vedette offrent un trésor de connaissances et d’idées innovantes pour alimenter votre exploration de l’IA.
- Exprimer les préoccupations de Reddit : Les défis avec character AI
- +50 emplois que l’IA ne peut pas remplacer en 2024
- 6 erreurs à éviter dans les générateurs d’images IA en 2024
- IA pour le TDAH : 10 façons dont ChatGPT peut aider à gérer le TDAH en 2024 ?
- Explorer les politiques de Perplexity AI : Comment Claude 3 façonne les interactions et les attentes des utilisateurs
