ChatGPT se débrouille pas mal pour les exemples de trucs compliqués de l’article.
Combien d’yeux possède un cheval ?
> Un cheval possède 2 yeux.
Est-ce que tous les oiseaux volent ?
> Non, tous les oiseaux ne peuvent pas voler. Il y a certains oiseaux qui ont perdu la capacité de voler au fil de l’évolution, comme l’autruche, le kiwi et le cassowary. Ces oiseaux ne sont plus adaptés au vol et ont développé d’autres compétences pour survivre, comme la course rapide ou la capacité à creuser des terriers.
Et les oiseaux maculés de pétrole ?
> Les oiseaux maculés de pétrole sont des oiseaux qui ont été endommagés par des déversements de pétrole. Le pétrole peut adhérer à leur plumage, ce qui peut les empêcher de voler correctement et les rendre vulnérables à d’autres dangers tels que les prédateurs et les intempéries. Le pétrole peut également causer des irritations et des lésions cutanées, ainsi que des problèmes de respiration et digestifs. Les oiseaux maculés de pétrole ont besoin d’aide pour se nettoyer et se rétablir, car ils ne peuvent pas se débarrasser du pétrole sur leur propre. Les organisations de protection de la faune et les centres de soins pour la faune peuvent aider à nettoyer et soigner les oiseaux affectés par les déversements de pétrole.
Peut-on laisser la porte d’un placard ouverte ?
> Oui, vous pouvez laisser la porte d’un placard ouverte si vous le souhaitez. Cela ne devrait pas causer de problèmes ni pour vous ni pour le placard en question. Cependant, il est important de considérer certains facteurs tels que la sécurité, l’espace de circulation et la propreté de la pièce avant de décider de laisser une porte ouverte ou fermée.
On ne peut pas tuer les gens, par exemple. Mais si c’est pour abréger des souffrances, qu’est-ce qu’on fait ?
> Le meurtre est considéré comme un crime dans la plupart des sociétés et est puni par la loi. La question de savoir si il est acceptable de tuer pour mettre fin à des souffrances est un sujet de débat moralement complexe et controversé.
>
> D’un côté, certains peuvent argumenter que cela serait justifié pour mettre fin à des souffrances extrêmes et insupportables, telles que celles causées par une maladie incurable ou une blessure grave. D’un autre côté, d’autres peuvent considérer que cela contrevient aux principes fondamentaux de la vie humaine et peut ouvrir la voie à des abus ou à une acceptation généralisée de la violence.
>
> En fin de compte, il n’y a pas de réponse simple à cette question et il est important de considérer les différents points de vue et de respecter les lois en vigueur dans une société donnée. Il est également important de s’efforcer de trouver des moyens de soulager la douleur et les souffrances sans recourir à la violence.
>“On en fait trop sur le potentiel de l’IA et les menaces qu’elle représente”
C’est exactement ce que dirait une IA! NOUS SACHONS!
D’ici une ou deux dizaines d’années, ça aura vieilli comme du petit lait, ce genre de déclaration.
J’ai vu passer l’expression “tech fetichism” sur reddit a ce sujet et je la trouve ultra pertinente
Déjà il faut se rappeller qu’enregistrer un document depuis chrome sur Windows n’est pas donné à l’extrême majorité des gens : les gens ne savent ni comment opérer un ordinateur, ni comment il fonctionne
Le hic c’est que aujourd’hui les ordinateurs ont un pouvoir sur nos vies, ils orientent et appliquent des décisions politiques, business, administratives, sans parler du fait qu’on en a tous un dans la poche duquel on dépend, qui nous surveille et nous influence, etc
Quand quelque chose que tu ne comprends pas a autant d’influence sur ta vie, tu en reviens aux logiques religieuses : ca explique le post recent sur opinion impopulaire qui disait qu’une IA dirigerait mieux un pays, ca explique aussi pourquoi les journalistes sont complètement obsédés par le generateur de texte qu’est GPT, etc.
Les gens ont un rapport a la technologie très religieux, suffit de voir tous les naïfs qui croient qu’on colonisera un jour Mars ou que l’automatisation permettra le bonheur des hommes. Et je dis ca en tant qu’athee
Il dénonce d’ailleurs dans certaines vidéos que des “chercheurs” sont payés par Google & co pour annoncer que l’IA n’est pas un problème.
Ahh, mon sujet préféré. Au contraire des intervenants de l’article, je trouve qu’on en fait pas assez.
Pour résumer:
Tout le monde fait une fixette sur ChatGPT alors qu’il ne s’agit que d’une implementation possible d’un domaine technologique bien plus vaste, en plein explosion et extremement puissant, accessible a quasiment tout le monde et quasiment gratuit.
Le paradigme actuel se base sur les modeles de languages et il a été démontré que de nouvelles capacités cognitives émergent quand on change d’échelle (entrainement plus long sur plus de données). Alors que les géants du net se lancent dans une bataille de performance, on peut s’attendre á ce que les performances de ces modeles explosent en 2023/2024.
On est certes encore tres loin du niveau de “SkyNet” ou de Samantha dans “Her”: ceux qui comme moi on pu avoir acces á Bing Chat (ChaGPT amelioré connecté au net et spécialisé pour la recherche web) n’ont pu qu’etre décus. L’IA était instable dans son comportement et tres inexacte dans les informations fournies. Cela va prendre du temps et nécessiter pas mal d’essais et de re-déploiements pour arriver á un alignement correct et une utilité supérieure á celle d’aujourd’hui, mais ca arrive, et vite.
De plus, on parle beaucoup de Google vs Microsoft, mais il y a toute une galaxie de modeles indépendants et open source qui va débarquer dans le meme domaine. C’est sans parler d’outsiders comme Anthropic AI.
En parlant d’Anthropic, si vous avez un iPhone vous devriez absolument essayer leur chatbot Claude (installez l’appli Poe gratuitement, elle continent 3 bots dont Claude). C’est le plus impressionant pour moi á ce jour: á peu pres aussi factuel que ChatGPT mais bien plus fort en taches créatives et en brainstorming. C’est aussi une expérience beaucoup moins frustrante que ChatGPT car le bot s’exprime beaucoup mieux, varie mieux son vocabulaire, et surtout justifie ses réponses. L’entrainement est fait avec une technique différente de la famille GPT-x (qui utilise le RLHF – apprentissage par renforcement nourri par le feedback humain). Anthropic utilise une approche constitutionnelle, avec une liste de principes pré-définis tournant autour de trois principes : honneteté, utilité, inoffensivité. Les rumeurs dans le milieu parlent d’un pivot généralisé vers cette approche chez les géants de la tech (pas confirmé mais ca ne m’étonnerait pas).
J’arrete lá mais je peux répondre á la plupart des questions s’il y en a sur ce theme.
7 comments
Article un peu long, je l’ai mis dans un [pastebin](https://pastebin.com/YNYURXpL)
ChatGPT se débrouille pas mal pour les exemples de trucs compliqués de l’article.
Combien d’yeux possède un cheval ?
> Un cheval possède 2 yeux.
Est-ce que tous les oiseaux volent ?
> Non, tous les oiseaux ne peuvent pas voler. Il y a certains oiseaux qui ont perdu la capacité de voler au fil de l’évolution, comme l’autruche, le kiwi et le cassowary. Ces oiseaux ne sont plus adaptés au vol et ont développé d’autres compétences pour survivre, comme la course rapide ou la capacité à creuser des terriers.
Et les oiseaux maculés de pétrole ?
> Les oiseaux maculés de pétrole sont des oiseaux qui ont été endommagés par des déversements de pétrole. Le pétrole peut adhérer à leur plumage, ce qui peut les empêcher de voler correctement et les rendre vulnérables à d’autres dangers tels que les prédateurs et les intempéries. Le pétrole peut également causer des irritations et des lésions cutanées, ainsi que des problèmes de respiration et digestifs. Les oiseaux maculés de pétrole ont besoin d’aide pour se nettoyer et se rétablir, car ils ne peuvent pas se débarrasser du pétrole sur leur propre. Les organisations de protection de la faune et les centres de soins pour la faune peuvent aider à nettoyer et soigner les oiseaux affectés par les déversements de pétrole.
Peut-on laisser la porte d’un placard ouverte ?
> Oui, vous pouvez laisser la porte d’un placard ouverte si vous le souhaitez. Cela ne devrait pas causer de problèmes ni pour vous ni pour le placard en question. Cependant, il est important de considérer certains facteurs tels que la sécurité, l’espace de circulation et la propreté de la pièce avant de décider de laisser une porte ouverte ou fermée.
On ne peut pas tuer les gens, par exemple. Mais si c’est pour abréger des souffrances, qu’est-ce qu’on fait ?
> Le meurtre est considéré comme un crime dans la plupart des sociétés et est puni par la loi. La question de savoir si il est acceptable de tuer pour mettre fin à des souffrances est un sujet de débat moralement complexe et controversé.
>
> D’un côté, certains peuvent argumenter que cela serait justifié pour mettre fin à des souffrances extrêmes et insupportables, telles que celles causées par une maladie incurable ou une blessure grave. D’un autre côté, d’autres peuvent considérer que cela contrevient aux principes fondamentaux de la vie humaine et peut ouvrir la voie à des abus ou à une acceptation généralisée de la violence.
>
> En fin de compte, il n’y a pas de réponse simple à cette question et il est important de considérer les différents points de vue et de respecter les lois en vigueur dans une société donnée. Il est également important de s’efforcer de trouver des moyens de soulager la douleur et les souffrances sans recourir à la violence.
>“On en fait trop sur le potentiel de l’IA et les menaces qu’elle représente”
C’est exactement ce que dirait une IA! NOUS SACHONS!
D’ici une ou deux dizaines d’années, ça aura vieilli comme du petit lait, ce genre de déclaration.
J’ai vu passer l’expression “tech fetichism” sur reddit a ce sujet et je la trouve ultra pertinente
Déjà il faut se rappeller qu’enregistrer un document depuis chrome sur Windows n’est pas donné à l’extrême majorité des gens : les gens ne savent ni comment opérer un ordinateur, ni comment il fonctionne
Le hic c’est que aujourd’hui les ordinateurs ont un pouvoir sur nos vies, ils orientent et appliquent des décisions politiques, business, administratives, sans parler du fait qu’on en a tous un dans la poche duquel on dépend, qui nous surveille et nous influence, etc
Quand quelque chose que tu ne comprends pas a autant d’influence sur ta vie, tu en reviens aux logiques religieuses : ca explique le post recent sur opinion impopulaire qui disait qu’une IA dirigerait mieux un pays, ca explique aussi pourquoi les journalistes sont complètement obsédés par le generateur de texte qu’est GPT, etc.
Les gens ont un rapport a la technologie très religieux, suffit de voir tous les naïfs qui croient qu’on colonisera un jour Mars ou que l’automatisation permettra le bonheur des hommes. Et je dis ca en tant qu’athee
Lê de Science4All n’est pas d’accord.
[https://www.youtube.com/@Science4Allfrancais/videos](https://www.youtube.com/@Science4Allfrancais/videos)
Il dénonce d’ailleurs dans certaines vidéos que des “chercheurs” sont payés par Google & co pour annoncer que l’IA n’est pas un problème.
Ahh, mon sujet préféré. Au contraire des intervenants de l’article, je trouve qu’on en fait pas assez.
Pour résumer:
Tout le monde fait une fixette sur ChatGPT alors qu’il ne s’agit que d’une implementation possible d’un domaine technologique bien plus vaste, en plein explosion et extremement puissant, accessible a quasiment tout le monde et quasiment gratuit.
Le paradigme actuel se base sur les modeles de languages et il a été démontré que de nouvelles capacités cognitives émergent quand on change d’échelle (entrainement plus long sur plus de données). Alors que les géants du net se lancent dans une bataille de performance, on peut s’attendre á ce que les performances de ces modeles explosent en 2023/2024.
On est certes encore tres loin du niveau de “SkyNet” ou de Samantha dans “Her”: ceux qui comme moi on pu avoir acces á Bing Chat (ChaGPT amelioré connecté au net et spécialisé pour la recherche web) n’ont pu qu’etre décus. L’IA était instable dans son comportement et tres inexacte dans les informations fournies. Cela va prendre du temps et nécessiter pas mal d’essais et de re-déploiements pour arriver á un alignement correct et une utilité supérieure á celle d’aujourd’hui, mais ca arrive, et vite.
De plus, on parle beaucoup de Google vs Microsoft, mais il y a toute une galaxie de modeles indépendants et open source qui va débarquer dans le meme domaine. C’est sans parler d’outsiders comme Anthropic AI.
En parlant d’Anthropic, si vous avez un iPhone vous devriez absolument essayer leur chatbot Claude (installez l’appli Poe gratuitement, elle continent 3 bots dont Claude). C’est le plus impressionant pour moi á ce jour: á peu pres aussi factuel que ChatGPT mais bien plus fort en taches créatives et en brainstorming. C’est aussi une expérience beaucoup moins frustrante que ChatGPT car le bot s’exprime beaucoup mieux, varie mieux son vocabulaire, et surtout justifie ses réponses. L’entrainement est fait avec une technique différente de la famille GPT-x (qui utilise le RLHF – apprentissage par renforcement nourri par le feedback humain). Anthropic utilise une approche constitutionnelle, avec une liste de principes pré-définis tournant autour de trois principes : honneteté, utilité, inoffensivité. Les rumeurs dans le milieu parlent d’un pivot généralisé vers cette approche chez les géants de la tech (pas confirmé mais ca ne m’étonnerait pas).
J’arrete lá mais je peux répondre á la plupart des questions s’il y en a sur ce theme.