![\"\"](\"http:\/\/blogs.encamina.com\/transformacion-digital\/wp-content\/uploads\/sites\/18\/2025\/03\/copilot-1.jpg\")
<\/p>\n<\/p>\n
\u00bfAlguna vez te has preguntado por qu\u00e9 a veces la inteligencia artificial parece inventar informaci\u00f3n de la nada? \u00bfEs esto un error o una caracter\u00edstica inherente a su funcionamiento?<\/span> \u00bfPodemos controlar este comportamiento en los sistemas de IA? \u00bfExiste alguna manera de asegurarnos de que Copilot solo utilice fuentes verificadas?\u00a0<\/span><\/p>\n <\/p>\n En este art\u00edculo, exploramos el fen\u00f3meno de las \u00abalucinaciones\u00bb en la IA, entendiendo c\u00f3mo y por qu\u00e9 Copilot puede generar informaci\u00f3n no basada en ninguna fuente preexistente. Analizaremos en qu\u00e9 situaciones ocurre este fen\u00f3meno, cu\u00e1les son sus implicaciones y c\u00f3mo podemos mitigar su impacto cuando la precisi\u00f3n de los datos es cr\u00edtica.<\/span>\u00a0<\/span><\/p>\n \u00a0<\/span>\u00bfPor qu\u00e9 alucina un asistente de IA como Copilot?<\/span><\/b>\u00a0<\/span><\/p>\n Para entender esta cuesti\u00f3n desde la base debemos remontarnos a recordar que se trata de un LLM y cuenta con la posibilidad de inventar y generar contenido nuevo\u2026<\/span>\u00a0<\/span><\/p>\n Puesto que los LLM, en calidad de modelo de aprendizaje, cuentan con la capacidad de\u202faprender\u202fa\u202fpredecir\u202f y\u202f <\/span>generar<\/span><\/b>. Y es este \u00faltimo punto de \u00ab<\/span>generar<\/span><\/b>\u00bb el que nos interesa abordar y el que, adem\u00e1s, le da sentido a este art\u00edculo.<\/span>\u00a0<\/span><\/p>\n \u202f<\/span>\u00a0<\/span>S\u00ed, pero\u2026 \u00bfQu\u00e9 es la alucinaci\u00f3n?<\/span><\/b>\u00a0<\/span><\/p>\n Entendiendo lo citado en cuanto a los LLM, ya podemos dilucidar en qu\u00e9 consiste la llamada \u201calucinaci\u00f3n\u201d \u2026 y no es otra cosa que la <\/span>creaci\u00f3n de contenido nuevo, no obtenido de ninguna fuente o recurso<\/span><\/b>; es decir: que no se obtiene de ninguna fuente de conocimiento existente previamente, trat\u00e1ndose de contenido \u00fanico con car\u00e1cter original y natural de la IA (y por consiguiente: no siendo contenido real, ver\u00eddico o contrastado).<\/span>\u00a0<\/span><\/p>\n \u202f<\/span>\u00a0<\/span>Mmmm \u00bfY en qu\u00e9 casos solemos encontrarnos con este caso llamado alucinaci\u00f3n?<\/span><\/b>\u00a0<\/span><\/p>\n Generalmente esto puede ocurren cuando nuestros prompts cuentan con:<\/span> \u202f<\/span>\u00a0<\/span><\/p>\n \u00a0<\/span>Un ejemplo, muy gr\u00e1fico de alucinaci\u00f3n que gustamos de utilizar en muchas de las sesiones que impartimos de prompting es el siguiente:<\/span>\u00a0<\/span><\/p>\n \u00bfQu\u00e9 ocurre cuando le pedimos a nuestro asistente que nos genere una imagen en la que se muestre \u201cun animal que se encuentre disfrutando en su h\u00e1bitat natural, siendo este el espacio intergal\u00e1ctico\u201d?<\/span>\u00a0<\/span><\/p>\n Bien, como hasta la fecha no conocemos de la fauna y flora natural del espacio intergal\u00e1ctico, Copilot (en este caso) nos generar\u00e1 una imagen similar a la siguiente:<\/span>\u00a0<\/span><\/p>\n \u202f<\/span> \u00a0<\/span>Y \u00bfPor qu\u00e9 se genera una imagen as\u00ed? Bien, pensemos que estamos pidi\u00e9ndole algo que a la par de il\u00f3gico est\u00e1 falto de ninguna referencia en la que basarse, y ese es el motivo que mueve a Copilot a recurrir a la alucinaci\u00f3n con tal de darnos una respuesta.<\/span><\/i>\u00a0<\/span><\/p>\n \u00a0<\/span>\u00a0<\/span>Todo esto… \u00bfViene por la creatividad de la IA?<\/span><\/b>\u00a0<\/span><\/p>\n Llegados a este punto, no olvidemos que esa misma creatividad, esa capacidad para la generaci\u00f3n de contenido nuevo que explica el caso de la alucinaci\u00f3n, es uno de los principales pilares que hacen que la IA suponga la revoluci\u00f3n (a todos los niveles) que est\u00e1 siendo, y que nos encontramos viviendo. Recordemos que cuando hablamos de IA \u201cGenerativa\u201d hacemos alusi\u00f3n a esta misma capacidad en cuesti\u00f3n. Capacidad de la que todos aquellos que trabajamos con esta tecnolog\u00eda, sin excepci\u00f3n, nos encontramos sacando provecho.<\/span>\u00a0<\/span><\/p>\n Y est\u00e1 de m\u00e1s a\u00f1adir que el hacer uso de esta creatividad est\u00e1 tan al alcance de la mano por nosotros, como lo est\u00e1 lanzar la ejecuci\u00f3n de un prompt. Por ejemplo, bajo peticiones sencillas como las siguientes:<\/span>\u00a0<\/span><\/p>\n \u00a0<\/span>Vale, vale\u2026 pero todo esto \u00bfPuede suponernos un problema?<\/span><\/b>\u00a0<\/span><\/p>\n Como terminamos de ver, la capacidad de crear nuevo contenido \u00fanico, y original se postula como uno de los puntos fuertes de la IA. No obstante… este poder creativo de la IA \u00bfPuede representar un problema?<\/span>\u00a0<\/span><\/p>\n Bien, siempre que nuestra intenci\u00f3n no sea, expl\u00edcitamente, obtener contenido nuevo y original, las alucinaciones por parte de nuestro asistente de IA s\u00ed podr\u00edan suponer un problema. Esto cobra sentido al ser conscientes de que existen ciertos escenarios donde los usuarios que se valen de esta tecnolog\u00eda para la toma de ciertas decisiones (importantes), como pueda ser trabajando en campos como el comercio financiero, o en algo m\u00e1s sensible incluso como el diagn\u00f3stico m\u00e9dico.<\/span>\u00a0<\/span><\/p>\n \u202f<\/span>\u00a0<\/span>\u00bfPodemos controlar que nuestro sistema alucine?<\/span><\/b>\u00a0<\/span><\/p>\n Para escenarios en los que no queremos obtener una respuesta que no sea real o que no provenga de una fuente existente, tenemos alg\u00fan recurso del que podemos tirar\u2026<\/span>\u00a0<\/span><\/p>\n Por ejemplo, en nuestras manos est\u00e1 la posibilidad de jugar con el prompting y recurrir al famoso \u00abno te inventes nada\u00bb, en el que, bajo el mismo prompt y como parte de la instrucci\u00f3n, se le pide b\u00e1sicamente eso: que no invente, que no sea creativo con la respuesta y genere algo nuevo.<\/span>\u00a0<\/span><\/p>\n Lo que procuramos con esto es que la respuesta que nos devuelva se encuentre soportada por alguna fuente de informaci\u00f3n existente a la que haya recurrido (y que en ning\u00fan caso sea creativo e invente o genere informaci\u00f3n \u201cnueva\u201d). De la misma forma que el \u00abno inventes\u00bb tendr\u00edamos la opci\u00f3n de pedirle que, por favor, todo lo que nos devuelva este basado\/se fundamente en informaci\u00f3n existente; pudiendo seguir haciendo uso del lenguaje natural al que tanto recurrimos y tan f\u00e1cil nos lo hace todo \ud83d\ude42<\/span>\u00a0<\/span><\/p>\n \u202f<\/span>\u00a0<\/span>Y sin perder el hilo de esto.. \u00bfHay m\u00e1s formas de controlar las fuentes a las que recurre la IA para darnos respuesta?<\/span><\/b>\u00a0<\/span><\/p>\n Bien\u2026Algo tenemos con Copilot \ud83d\ude09<\/span>\u00a0<\/span><\/p>\n En primer lugar, podr\u00edamos explicar que trabajando con Copilot contamos con la posibilidad de trabajar mediante <\/span>recursos<\/span><\/b>. Cuando hablamos de recursos nos referimos a los documentos espec\u00edficos que le facilitemos a Copilot a los que podemos apuntar y establecer como fuente de conocimiento particular\u2026 Estos documentos, bien podemos subirlos o bien podemos <\/span>recurrir a otras fuentes*<\/span> como correos, reuniones y tambi\u00e9n documentos que ya se encuentren dentro de nuestro tenant<\/span>\u00a0<\/span><\/p>\n *Ese caso en particular ser\u00eda posible haciendo uso de las utilidades relacionadas nuestra pesta\u00f1a de Trabajo en Copilot.<\/span><\/i>\u00a0<\/span><\/p>\n \u00a0<\/span>Por otro lado, y siguiendo bajo el paraguas de Copilot Trabajo, en ciertas herramientas de Microsoft (como pueda ser Word, o PPT) contamos con la opci\u00f3n de <\/span>Administrar preferencias de contenido<\/span><\/b>; donde activando el toggle \u201cWeb\u201d que se nos muestra cuando accedemos a la opci\u00f3n, podremos forzar a Copilot a darnos respuestas que encuentre navegando en la web (fuera de llamar a recursos de nuestro ambiente o ponerse creativo)<\/span>\u00a0<\/span><\/p>\n \u202f<\/span> Sin m\u00e1s, esperamos que este art\u00edculo haya sido esclarecedor y de inter\u00e9s para vosotros <\/span>\ud83d\ude0a<\/span>\u00a0<\/span><\/p>\n<\/span>","protected":false},"excerpt":{"rendered":" \u00bfAlguna vez te has preguntado por qu\u00e9 a veces la inteligencia artificial parece inventar informaci\u00f3n de la nada? \u00bfEs esto un error o una caracter\u00edstica inherente a su funcionamiento? \u00bfPodemos controlar este comportamiento en los sistemas de IA? \u00bfExiste alguna … Continue reading \n
\n
\n
<\/span><\/p>\n\n
\n
\n
\nGen\u00e9rame una imagen en la que..<\/span><\/i>\u00a0<\/span><\/li>\n<\/ul>\n![\"\"](\"http:\/\/blogs.encamina.com\/transformacion-digital\/wp-content\/uploads\/sites\/18\/2025\/03\/copilot-2.jpg\")
<\/p>\n![\"\"](\"http:\/\/blogs.encamina.com\/transformacion-digital\/wp-content\/uploads\/sites\/18\/2025\/03\/copilot-3.jpg\")
<\/span><\/p>\n