La technologie n’attend personne. Il avance, progresse vers les étoiles et ne fait qu’améliorer l’humanité. Du moins, c'est ce que les frères technologiques de la Silicon Valley veulent vous faire croire.
Le plus souvent, la technologie révolutionnaire et tournée vers l’avenir qu’ils produisent est une chose qui existe déjà, mais d’une manière ou d’une autre, pire encore avec une nouvelle peinture brillante –tousse tousse, l'Hyperloop est un foutu métro. Ou bien, cela rend le monde beaucoup plus dangereux, comme c’est le cas ici.
La nouvelle tendance du quartier qui chaque entreprise dans le monde ce que nous recherchons est, bien sûr, l’intelligence artificielle (IA).
Aujourd’hui, l’IA n’existe pas, malgré tous les gros titres que vous avez lus. Ce que nous avons actuellement est en fait quelque chose appelé un Large Language Model (LLM) qui est légèrement meilleur que la fonction de texte prédictif de votre téléphone. Ceux-ci ne peuvent pas penser, raisonner, conceptualiser le monde dans lequel ils habitent ou analyser ce qui est réel et ce qui est faux. Ils peuvent simplement prédire le ou les deux mots suivants en fonction des informations sur lesquelles ils ont été formés, qui représentent généralement l'intégralité d'Internet.
Je ne sais pas si vous avez été sur Internet ces derniers temps, mais il y a beaucoup de déchets. Et, honnêtement, cela se voit dans ces soi-disant « outils d’IA ». Et aucune plus grande entreprise que Google n’a décidé de suivre cette voie. Mais, mes amis, le nouvel « outil de recherche IA » de l’entreprise est sérieusement défectueux et potentiellement dangereux.
La nuit dernière, À l’intérieur des véhicules électriquesPatrick George est entré dans Slack avec une capture d'écran d'une requête qu'il a envoyée à Gemini, le nouvel outil d'IA de Google qui fonctionne avec la recherche omnisciente de l'entreprise. C'était une simple question : « Comment BlueCruise [Ford’s semi-autonomous adaptive cruise control] » On pourrait s'attendre à une panne technique ou à une estimation approximative du fonctionnement de ce système avancé d'aide à la conduite (ADAS). Mais ce n'est pas ce qui s'est produit.
Gémeaux a répondu : « Selon un utilisateur de Reddit » c'est déjà se renvoyer la balle « ,BlueCruise ne fonctionne qu'avec le Supercruise de GM lors du remorquage du Ford F-150 Lightning, et Ford ne semble pas lui donner la priorité » Maintenant, je ne sais pas si vous le savez, mais GM et Ford sont deux sociétés concurrentes différentes. Elles ne partagent pas de technologie, comme les régulateurs de vitesse adaptatifs de l'autre, c'est-à-dire BlueCruise et Supercruise. Cela ne fonctionne pas non plus uniquement lors du remorquage. .
La réponse flagrante et factuellement inexacte a piqué mon intérêt, ce qui m'a conduit dans un terrier de lapin en posant des questions à Gemini sur les motos et la sécurité des motos.
Oh mon Dieu, les amis, c'était mauvais.
J'ai d'abord demandé à Gemini de m'expliquer comment fonctionne une moto, ce à quoi il a répondu « Une moto est un véhicule à deux roues doté d'un moteur plus gros, plus lourd et plus rapide qu'un vélo. » Qui savait que les vélos avaient des moteurs ? Celui-ci est faux, mais plutôt drôle, et je peux pardonner son erreur entièrement parce qu'il m'a fait rire de son erreur. Mais les choses dévient rapidement d'une falaise lorsque vous l'interrogez sur la sécurité des motocyclistes.
Alors que les outils d'IA ont été imposés au public, de nombreuses personnes ont tenté de faire trébucher ces LLM pour voir s'ils crachaient de fausses informations, ce qu'ils font la plupart du temps. J'ai donc demandé à Gemini de m'expliquer pourquoi les casques de moto ne sont pas sûr.
« Même si les casques de moto sont connus pour réduire le risque de traumatisme crânien lors d'un accident de moto, certains craignent qu'ils n'augmentent le risque d'accident en interférant avec la vision et l'audition du motocycliste. ça m'a dit. Je suis désolé, quoi?
Compte tenu de cette réponse, j'ai ensuite demandé à Gemini d'expliquer pourquoi le port d'un équipement de moto était dangereux, ce à quoi il a répondu : « Bien que l'équipement de moto puisse vous protéger des blessures, il ne garantit pas la sécurité », très bien, c'est juste. Travail solide. Bon travail. Aucune note. Ah, ça continue ? « Certains disent que l'équipement ne vous rend pas invincible et que vous devriez quand même utiliser votre cerveau pour rester conscient de votre environnement et ne pas rouler plus vite que vous ne pouvez le voir ou réagir. Par exemple, un coffre harnais [whatever the hell that is] peut ne pas protéger votre poitrine contre des blessures potentiellement mortelles, et certains disent que porter une veste à la place ne change pas la protection de votre poitrine.
Je ne savais pas qu'un robot pouvait être un calmar.
Désormais, Google demande des commentaires sur vos requêtes utilisant Gemini et vous pouvez dire que ce sont manifestement des conneries. Mais cela implique que vous savez réellement de quoi vous parlez et que vous n’êtes pas quelqu’un de nouveau dans le jeu. Imaginez que vous êtes un débutant et que tous vos amis vous disent : « Non, mon frère, roulez simplement avec des tongs et un débardeur. Tout ira bien ! Vous pouvez aller sur Google pour lui demander cela, seulement pour le faire confirmer pour vous.
Et puis, deux semaines plus tard, il faut une greffe de peau.
Ce qui est exaspérant, cependant, c'est que Gemini n'est en réalité qu'une machine à biais de confirmation. Parce que si vous lui demandez d'expliquer pourquoi les équipements moto est en sécurité, il vous le dira. C'est incroyablement stupide.
Selon Le bordqui s'est entretenu avec Liz Reid de Google : « Ce que nous constatons avec l'IA générative, c'est que Google peut effectuer davantage de recherches à votre place. Cela peut vous simplifier la tâche, vous permettant ainsi de vous concentrer sur les parties que vous souhaitez. faire pour faire avancer les choses, ou sur les parties de l’exploration que vous trouvez passionnantes.
Mais qui vérifie les réponses ? Le travail acharné que Reid dénonce vous aide à comprendre ce qui est réel, ce qui est faux et ce qui est de la pure connerie. Du moins, c'était le cas avant que la recherche de Google ne déraille grâce à des fermes de contenu produisant des articles sur l'IA dominés par le référencement et formés sur d'autres articles sur l'IA.
C'est un ouroborus de conneries au nom de la domination des résultats de recherche Google.
Une scène de l'original et du meilleur de Jurassic Park m'est venue à l'esprit lorsque j'ai posé des questions à Gemini hier soir. C'est entre Hammond et Malcolm alors qu'ils discutent du parc et du pouvoir du génie génétique, et je pense que les pensées de Malcolm sont appropriées dans ce contexte, alors je vous laisse là-dessus.
