{"id":3162,"date":"2024-06-27T06:03:30","date_gmt":"2024-06-27T11:03:30","guid":{"rendered":"https:\/\/elcuyabranpost.com\/?p=3162"},"modified":"2024-06-27T09:13:01","modified_gmt":"2024-06-27T14:13:01","slug":"chatgpt-es-una-maquina-de-mierda","status":"publish","type":"post","link":"https:\/\/elcuyabranpost.com\/index.php\/2024\/06\/27\/chatgpt-es-una-maquina-de-mierda\/","title":{"rendered":"ChatGPT es una m\u00e1quina de mierda"},"content":{"rendered":"\n
<\/div>\n\n\n\n

Tengo un serio temor a ser remplazado por una app. En mi trabajo, debo reconocerlo, es relevante el apoyo ocasional de un par de modelos grandes de lenguaje (LLM, por su sigla en ingl\u00e9s), especialmente para tareas tediosas.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Aunque no les conf\u00edo nada importante y reviso exhaustivamente cada l\u00ednea que obtengo, mi experiencia confirma que estos modelos pueden ser capaces de producir un texto sorprendentemente completo e incluso preciso si se les dan las indicaciones adecuadas, pero cuando se les solicita citar las fuentes en las que basan sus respuestas, proporcionan referencias y v\u00ednculos no relacionados. Falsos.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Estos modelos producen resultados sorprendentemente similares a los humanos al discutir una amplia diversidad de temas. Lo hacen estimando la probabilidad de que una palabra en particular aparezca a continuaci\u00f3n, dado el texto que ha venido antes, mediante la construcci\u00f3n de un modelo estad\u00edstico masivo basado cantidades enormes de texto, en su mayor\u00eda tomado \u2014sin permiso\u2014 de Internet.<\/p>\n\n\n\n

<\/div>\n\n\n\n

No se trata de ning\u00fan razonamiento. Si a veces obtienen la respuesta \u2018correcta\u2019 es solo porque sintetizaron cadenas relevantes a partir de lo que estaba en sus datos de \u2018aprendizaje\u2019.<\/p>\n\n\n\n

<\/div>\n\n\n\n

El LLM m\u00e1s destacado es ChatGPT de OpenAI. En el art\u00edculo \u201cChatGPT is bullshit<\/em>\u201d, Hicks et al. (2024) argumentan en contra de la opini\u00f3n de que cuando ChatGPT y similares producen afirmaciones falsas est\u00e1n mintiendo o \u2018alucinando\u2019, y a favor de que la actividad en la que est\u00e1n incurriendo es la producci\u00f3n de \u00abmierda\u00bb, en el sentido \u2018frankfurtiano\u2019 de la palabra.1<\/sup><\/p>\n\n\n\n

<\/div>\n\n\n\n
\n

\u201cPermitir que el modelo elija al azar entre las palabras m\u00e1s probables produce un texto m\u00e1s creativo y similar al humano; el par\u00e1metro que controla esto se llama la \u2018temperatura\u2019 del modelo y el aumento de la temperatura hace que el modelo parezca m\u00e1s creativo y sea m\u00e1s propenso a producir falsedades\u201d.<\/em><\/p>\n<\/blockquote>\n\n\n\n

<\/div>\n\n\n\n

Las analog\u00edas entre sistemas biol\u00f3gicos y m\u00e1quinas tienden a ser problem\u00e1ticas; estas \u2018alucinaciones\u2019 no tienen nada que ver con lo que se llama alucinaci\u00f3n en medicina, pues las m\u00e1quinas no tienen percepci\u00f3n. Atribuirle \u2018alucinaciones\u2019 a Chat-GPT nos har\u00e1 creer que la m\u00e1quina ha percibido cosas que no existen, cuando lo que est\u00e1 haciendo es mucho m\u00e1s parecido a inventar algo porque suena bien.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Debido a que estos programas no pueden preocuparse por la verdad en s\u00ed mismos y a que est\u00e1n dise\u00f1ados para producir un texto que parece apto sin ninguna preocupaci\u00f3n real por la verdad, parece apropiado llamar a sus resultados \u00abmierda\u00bb.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Es oportuno exponer brevemente la distinci\u00f3n planteada entre mierda \u00abdura\u00bb: aquella producida con la intenci\u00f3n de enga\u00f1ar a la audiencia sobre la agenda del enunciador (declaraciones fundadas en un enga\u00f1o de orden superior) y \u00abblanda\u00bb: aquella producida sin la intenci\u00f3n de enga\u00f1ar al interlocutor; una especie de “despreocupaci\u00f3n epist\u00e9mica” o actitud viciosa hacia la verdad.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Aunque exista la mencionada distinci\u00f3n basada en la \u201cagencia\u201d, la noci\u00f3n general sigue siendo \u00fatil: en algunas ocasiones, podemos estar seguros de que un enunciado es mierda, pero no tener claro si es dura o blanda, dada nuestra ignorancia de los deseos de orden superior del hablante. En tal caso, podemos a\u00fan llamarlo \u00abmierda\u00bb.1<\/sup><\/p>\n\n\n\n

<\/div>\n\n\n\n

Independientemente de que ChatGPT tenga o no, agencia sus creadores y usuarios, la tienen y s\u00ed: el hecho de que est\u00e9 dise\u00f1ado para dar la impresi\u00f3n de preocupaci\u00f3n por la verdad lo califica como un intento de enga\u00f1ar a la audiencia sobre sus objetivos, metas o agenda.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Su objetivo no es convencernos del contenido de sus declaraciones, sino presentarse como un interlocutor \u2018normal\u2019. Si esta funci\u00f3n es intencional, es precisamente el criterio de dureza: est\u00e1 tratando de parecer algo que tiene una agenda, cuando en muchos casos no es as\u00ed.<\/p>\n\n\n\n

<\/div>\n\n\n\n

La indiferencia hacia la verdad es extremadamente peligrosa. La vida civilizada y la vitalidad de las instituciones indispensables para ella dependen fundamentalmente del respeto a la distinci\u00f3n entre lo verdadero y lo falso. \u201cEn la medida en que la autoridad de esta distinci\u00f3n se ve socavada por la prevalencia de la mierda y por la actitud fr\u00edvola e irreflexiva que acepta su proliferaci\u00f3n como inocua, se desperdicia un tesoro humano indispensable\u201d.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Llamar a sus errores \u2018alucinaciones\u2019 no es inofensivo: se presta a la confusi\u00f3n de que las m\u00e1quinas est\u00e1n de alguna manera percibiendo mal. Esta es la met\u00e1fora equivocada. Su inexactitud no se debe a una percepci\u00f3n err\u00f3nea, simplemente no est\u00e1n tratando de transmitir informaci\u00f3n en absoluto. Son pura mierda.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n
\n\n\n\n

La imagen que acompa\u00f1a este texto fue tomada de Pixabay<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"

Tengo un serio temor a ser remplazado por una app. En mi trabajo, debo reconocerlo, es relevante el apoyo ocasional de un par de modelos grandes de lenguaje (LLM, por su sigla en ingl\u00e9s), especialmente para tareas tediosas. Aunque no les conf\u00edo nada importante y reviso exhaustivamente cada l\u00ednea que obtengo, mi experiencia confirma que […]<\/p>\n","protected":false},"author":1,"featured_media":3164,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"om_disable_all_campaigns":false,"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[40],"tags":[341,340,163,342],"class_list":["post-3162","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-opinion","tag-consciencia","tag-epistemologia","tag-inteligencia-artificial","tag-lenguaje"],"aioseo_notices":[],"jetpack_featured_media_url":"https:\/\/i0.wp.com\/elcuyabranpost.com\/wp-content\/uploads\/2024\/06\/head-663997_1280-jpg.webp?fit=1280%2C903&ssl=1","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/elcuyabranpost.com\/index.php\/wp-json\/wp\/v2\/posts\/3162"}],"collection":[{"href":"https:\/\/elcuyabranpost.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/elcuyabranpost.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/elcuyabranpost.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/elcuyabranpost.com\/index.php\/wp-json\/wp\/v2\/comments?post=3162"}],"version-history":[{"count":4,"href":"https:\/\/elcuyabranpost.com\/index.php\/wp-json\/wp\/v2\/posts\/3162\/revisions"}],"predecessor-version":[{"id":3195,"href":"https:\/\/elcuyabranpost.com\/index.php\/wp-json\/wp\/v2\/posts\/3162\/revisions\/3195"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/elcuyabranpost.com\/index.php\/wp-json\/wp\/v2\/media\/3164"}],"wp:attachment":[{"href":"https:\/\/elcuyabranpost.com\/index.php\/wp-json\/wp\/v2\/media?parent=3162"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/elcuyabranpost.com\/index.php\/wp-json\/wp\/v2\/categories?post=3162"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/elcuyabranpost.com\/index.php\/wp-json\/wp\/v2\/tags?post=3162"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}