L’IA (Intelligence Artificielle) est partout, et rien de tout cela n’a été particulièrement bon pour vous ou moi. En vous expliquant pourquoi vous devriez mettre de la colle sur votre pizza, pourquoi les équipements de moto ne vous rendent pas plus en sécurité, en proposant des informations erronées sur les élections, en concoctant des trucs nazis, et bien plus encore, l'IA a démontré que la technologie n'est tout simplement pas prête pour le général. publique.
Mais cela n’a évidemment pas empêché toutes les entreprises connues d’utiliser l’IA dans une certaine mesure. C'est le nouveau mot à la mode ! Vous ne pouvez rien publier de nos jours sans cela. Et maintenant, l’IA est arrivée au service de la police. Euh oh.
Les caméras corporelles ont été présentées comme une source définitive et impartiale de ce qui se passe lors d'un contrôle, d'une fouille ou d'une arrestation. Destiné à supprimer le seul rapport de police utilisant la mémoire du policier, quelque chose de malléable et sujet aux préjugés. Mais cela n’a pas été le cas, car les services de police peuvent manipuler les images et les agents peuvent simplement éteindre leurs caméras.
Alors évidemment, on revient aux rapports de police. Mais cette fois, avec l’IA !
Selon FuturismeAxon, l'entrepreneur de police qui fabrique le Taser, a lancé sa dernière technologie dans quelque chose appelé « Draft One », un générateur de rapports de police alimenté par l'IA qui fonctionne à partir du son de la caméra corporelle.
S'appuyant sur le modèle LLM (Large Language Model) GPT-4 d'OpenAI, qui n'est en réalité pas une IA, mais une version plus sophistiquée du texte prédictif de votre téléphone, l'audio de la caméra est transmis via Draft One, qui rassemble ensuite un rapport de police selon lequel Axon déclare la plupart des policiers. appelons « fastidieux ». Vous savez, la paperasse qui pourrait vous éloigner, vous ou moi, et indiquer ce que nous avons fait ou n'avons pas fait. Cette paperasse.
Je veux dire, qu'est-ce qui pourrait mal se passer ?
Imaginez que vous êtes arrêté alors que vous faites du vélo ou que vous affrontez les vagues sur un nouveau jet ski, et que l'agent porte un appareil photo. Peut-être qu'ils vous arrêtent pour excès de vitesse et que vous recevez une contravention. Mais quelques semaines plus tard, vous êtes devant le tribunal pour avoir giflé le policier ! Cela peut paraître étrange, mais non seulement l’IA continue à se tromper sur les faits fondamentaux, mais elle a également tendance à halluciner. Oui, il voit des choses qui n'existent absolument pas. Mais ne vous inquiétez pas, Axon et OpenAI sont totalement impliqués.
Parler avec Forbes À ce sujet, Noah Spitzer-Williams, principal chef de produit IA d'Axon, a déclaré : « La façon la plus simple d'y penser est que nous avons désactivé la créativité. Cela réduit considérablement le nombre d'hallucinations et d'erreurs… Tout ce qui est produit est simplement sur la base de cette transcription et de cette seule transcription. »
Je suis désolé, mais « réduit » ? Nous parlons de rapports de police qui peuvent indiquer des amendes imposées à des personnes, des incidents qui leur font perdre leurs revenus ou les mettent en prison. Nous parlons ici de détails qui mettent la vie des gens en danger, pas de fautes d’orthographe.
Ce seront des documents officiels.
Axon déclare également que les agents seront tenus d'examiner et de signer les rapports, réduisant ainsi les mensonges ou les problèmes liés au rapport généré par l'IA. Mais encore une fois, Axon affirme que la plupart des policiers qualifient ce travail de « fastidieux ». S’ils n’aiment déjà pas faire de la paperasse, comment dire qu’ils seront d’accord pour y jeter un coup d’œil après coup ?
Draft One est également limité aux « incidents et accusations mineurs » selon la société. Mais nous savons tous comment ça se passe, n'est-ce pas ? Ce n'est qu'une question de temps avant que les services de police et Axon croient que Draft One est assez bon pour tout. Et les enjeux augmentent de façon exponentielle une fois que l’on passe de la petite délinquance et des infractions routières aux agressions et plus encore.
Je vais être honnête, j'ai été arrêté à plusieurs reprises au cours de ma carrière de conducteur et de cavalier. Et j'ai eu différentes interactions avec les forces de l'ordre. Et c'est sans parler de ce que les amis et collègues ont vécu avec les DP locaux. Malgré cela, personnellement, je préfère ne pas laisser une technologie non éprouvée rédiger quelque chose après avoir été arrêté pour excès de vitesse ou autre.
Surtout un comme ChatGPT.