[{"data":1,"prerenderedAt":137},["ShallowReactive",2],{"post-es-contra-los-loros-estocasticos-el-papel-del-significado-al-evaluar-la-inteligencia-de-la-ia":3,"translation-es-contra-los-loros-estocasticos-el-papel-del-significado-al-evaluar-la-inteligencia-de-la-ia":136},["Reactive",4],{"id":5,"date":6,"date_gmt":7,"guid":8,"modified":10,"modified_gmt":11,"slug":12,"status":13,"type":14,"link":15,"title":16,"content":18,"excerpt":21,"author":23,"featured_media":24,"comment_status":25,"ping_status":25,"sticky":20,"template":26,"format":27,"meta":28,"categories":29,"tags":31,"class_list":32,"_links":39,"_embedded":81,"tagsResolved":122,"translations":123},965,"08. 08. 2026","2026-08-08T21:45:10",{"rendered":9},"https:\u002F\u002Fcms.local.test\u002F?p=965","2026-08-09T00:05:59","2026-08-08T22:05:59","contra-stochastic-parrots-the-role-of-meaning-in-assessing-ai-intelligence","publish","post","https:\u002F\u002Fcms.local.test\u002Fcontra-stochastic-parrots-the-role-of-meaning-in-assessing-ai-intelligence\u002F",{"rendered":17},"Contra Stochastic Parrots: the role of meaning in assessing AI intelligence",{"rendered":19,"protected":20},"\u003Cp>In this essay, I argue that LLMs are not stochastic parrots by evaluating the claims by (Bender et al., 2021) who coined the term “stochastic parrot” to express the view that the output of LLMs is 1) haphazard, 2) incoherent, 3) meaningless, because, following (Harnad, 1990), it produces symbols that are not grounded in the human phenomenal existence inside a physical world. I present a concept of “meaning networks”, a network-based account of the meaning of terms that consists in weighted, multimodal, socially stabilized associations that constitute what a term means for a language user. The main argument of the essay is to show that LLMs produce outputs that inherit grounding indirectly from human produced language, which is itself grounded. The use of linguistic data as an interface into human existence in the physical world suffers from a lossy compression: any interface that translates the human existence, which is a “continuous signal” (following computer science terminology), into discrete units, such as linguistic symbols, loses the richness of the detail. The grounding is therefore both indirect and lossy. Compared to human-level intelligence and meaning-use, LLMs occupy a never-before seen niche of systems that produce a human-level linguistic output whose meaning has a purely symbol-based modality. The meaning networks generated by LLMs can be understood as an extreme example of language-laden human intelligence.\u003C\u002Fp>\n\u003Ch2>\u003Ca id=\"post-965-_geao7idfhv2\">\u003C\u002Fa>Intro\u003C\u002Fh2>\n\u003Cp>Since at least the second half of the 20th century, our society has been labeled the information society, network society, post-industrial society, etc.\u003Csup>\u003Csup>\u003Ca id=\"post-965-footnote-ref-0\" href=\"#post-965-footnote-0\">[1]\u003C\u002Fa>\u003C\u002Fsup>\u003C\u002Fsup> All of the terms reflect the dominant mode of how society works. Information, networks, abstractions, and symbolic knowledge are the currencies of the day. Highly educated individuals with an aptitude for analytical, abstract thought and processing information are the sought-after professionals. The advent of cognitivism in philosophy of mind and cognitive sciences marked the beginning of the era when the metaphor of humans as information processors started to be taken seriously even at the frontier of our search for understanding who we are and how our minds work. Simon and Newell’s work on Logic Theorist and General Problem Solver software systems, Weizenbaum’s ELIZA, Winograd’s SHRDLU, and even Chomsky’s Syntactic structures and later the biological turn in linguistics were a few of many theories and projects to explain human cognition by appeal to logic and language as the essential ingredients of human intelligence. It is true that since then, the cognitive sciences and AI fields underwent major changes. The connectionist and 4E paradigm shifts emphasized the use of neural nets and the role of the embedded body in situated and broader cultural-societal contexts for creating a more faithful model of how brain processes and human cognition work. But the focus on understanding \u003Cem>intelligence\u003C\u002Fem>, both human and artificial, stays primary.\u003C\u002Fp>\n\u003Cp>Yet, the introduction of ChatGPT, Bard, Claude, and other chatbots based on the large language model (LLM) architecture forces us to re-consider who we are. LLMs show that the use of language, being the most distinct human feature compared to \u003Cem>all \u003C\u002Fem>other animal species, can be automatized to produce human-like responses, passing a Turing test with ease, surpassing the average human at handling factual data, logical reasoning or language abilities. If LLMs beat humans in the tasks that we consider uniquely human, is a LLM-based artificial intelligence becoming more like us than we are? It seems preposterous to claim that the LLM, a formal symbol-string prediction machine, can attain a status of being human. Unless we are hypocrites, we cannot stop praising human intelligence and language competency as the highest \u003Cem>human\u003C\u002Fem> cognitive values the moment another entity becomes superior to us. To avoid an ontological conundrum of what it means to be human, I will ask differently: can LLMs even in theory become more intelligent than humans? To again avoid defining what intelligence is, I will narrow down my inquiry further still: Whatever being intelligent means, I presuppose that the human-like intelligence requires understanding; and understanding requires the grasp of what words, sentences, or concepts mean. Without an understanding of the meaning, there cannot be intelligence.\u003C\u002Fp>\n\u003Ch2>\u003Ca id=\"post-965-_hy70hds010iq\">\u003C\u002Fa>Meaning networks: an intersection of phenomenology and linguistic meanings\u003C\u002Fh2>\n\u003Cp>It is important to clarify what I mean by the meaning. I will not present here an overview of theories of meaning in analytical philosophy. What I \u003Cem>can\u003C\u002Fem> outline here is a minimal theory of meaning that clashes both with \u003Cem>referential theory of meaning\u003C\u002Fem> and \u003Cem>truth-conditional\u003C\u002Fem> \u003Cem>theory of meaning\u003C\u002Fem>.\u003C\u002Fp>\n\u003Cp>Imagine that we want to talk about the meaning of the word “mother”. My mother passed away a few months ago. What my mind generates when thinking about the meaning of the word is as follows: I remember a visual image of a sullen face of my mother and the coldness of her forehead while I kissed her when she lay in the coffin at the church. I remember the smell of the incense, while hearing the notes of Dancing Queen by ABBA played by the string quartet on a viola, violins, and cello. I have tactile memories of hugging my ill mother a few days before her passing. I feel non-objectifiable feelings of sadness, remorse, and happiness when thinking about the word. Also, my mind gravitates towards the topic of what it means to be a mother I discussed with my pregnant fiancée. My mind is also aware of purely linguistic links the word “mother” has with other words like “father”, “pregnancy”, “female”, “children”, etc. and linguistic relationships between the word “mother” and other features of the language (“my” pronoun, “mothers” plural, “not breathing” gerund, etc.). I am also aware of connotations of the word “mother” that I assimilated into my understanding of the word when reading newspapers, literature or learning intersubjectively what mothers can do or are like when talking to other people.\u003C\u002Fp>\n\u003Cp>The meaning of the word “mother” is for me both private and public. The private meaning consists of elements of various perceptual modalities and linguistic symbols. The public, external meaning consists of what I heard and assimilated from my community and society at large usually in the form of linguistic symbols (i.e. words and sentences), which may have affected my existing non-linguistic, perception-derived sub-meanings via a feedback loop (e.g. when I heard how badly someone’s mother behaved, I started to appreciate my mother more and feel more love for her, modifying my prior feeling-derived sub-meanings).\u003C\u002Fp>\n\u003Cp>If we borrow further from the network theory the basic terms “node” and “edges”, their equivalent would be\u003C\u002Fp>\n\u003Cp>node = words \u002F concepts\u003C\u002Fp>\n\u003Cp>edge = meaning element that can be of many modalities: perceptual or symbolic representations, feelings, other nodes mediated by the symbolic representations\u003C\u002Fp>\n\u003Cp>As we can see, the meaning of a word is primarily a meaning for me, existing in my mind. It is a multi-modal “meaning network” of both perceptual and linguistic elements. This “meaning network” is not static, but dynamically reacts to my situated existence in the world, any new perceptual or linguistic elements can be added or possibly removed (or rather overridden) at any time.\u003C\u002Fp>\n\u003Cp>The term “mother” cannot refer to just one existing “object” in the world. I set aside the Fregean distinction of “sense” and “reference”, which presupposes stable referents and sense. Instead, I want to propose a multi-modal, network-based semantics where the meaning of terms equals the meaning networks themselves. With that, I can integrate sense data, feelings, visual imaginary, false beliefs, words, concepts, memories of many modalities for which I have distinct and clear sense that they constitute what I mean when I use the term “mother”, or terms like “my mother” or “Helena Ferencová”.\u003C\u002Fp>\n\u003Cp>The meaning network is amenable to the influence of the public and shared meanings of the word “mother” and it helps to defend the theory of meaning proposed here against the accusation of the private meaning, which as argued by Wittgenstein is impossible\u003Csup>\u003Csup>\u003Ca id=\"post-965-footnote-ref-1\" href=\"#post-965-footnote-1\">[2]\u003C\u002Fa>\u003C\u002Fsup>\u003C\u002Fsup>. The community I am a member of does participate in the constitution of what “mother” means for me and I’m aware that our personal experiences and thinking about mothers co-constitute each other’s meaning networks and the shared culture influences our meaning networks to have considerable overlaps. That implies there must be stable elements that are fixed or their stability is dynamically and continually enforced by the linguistic or perceptual interaction with others. In other words, the meaning networks can be dynamic, yet their stability is constantly negotiated via interaction with others. I cannot change the whole meaning network of what I mean by “mother” because I would be talking about someone or something else. If the language is to keep a communicative function, I need to keep the contents of my meaning networks (in other words, the meaning of terms I use) rather stable so that I am reasonably understood by most people. If what I mean differs radically from anyone else, I need to explain myself to others and by that update their own meaning networks, provided they are open to cognitively integrate new information.\u003C\u002Fp>\n\u003Cp>As far as truth-conditions go, the truth may be an element in my meaning network, but does not exhaust the entire concept of meaning. My subjective feeling of sorrow is right now more meaning-bearing than any conception of truth. It is not to say that a truth-condition does not participate in the meaning of terms, but is moved down, as it were, to the level of other meaning elements.\u003C\u002Fp>\n\u003Cp>It seems plausible that the dynamic aspect of meaning networks is partially realised by the external world influencing my meaning elements stored in my memory. But my meaning elements can change due to my memory going wrong, when I forget about words or experiences that are related to my mother. Also, due to the effects of time, it is likely that some meaning elements will partially fade away, whereas others will remain strong or even stronger. If we borrow terminology from neural networks that LLMs themselves are based on, we can assign each meaning element a \u003Cem>weight\u003C\u002Fem> that signals how strongly or weakly a given meaning element participates in constituting the meaning. If I burn an incense stick at home tomorrow, it may increase the weight of the meaning elements related to smell, church, coffin, funeral in the meaning of the word “mother”.\u003C\u002Fp>\n\u003Cp>The individual meaning elements may also be false. I may have started associating black velvet jackets with the meaning of “mother” due to my belief that she was clothed in this dress at the funeral. In fact, it may have been a dark navy velvet dress, but due to poor lighting conditions, the color appeared to me black. Some meaning elements thus may be added to my meaning network on the basis of a false belief. But what is indubitably true is that this false meaning element participates in the meaning of “mother”. I think the same can be said of meaning elements derived from references to hallucinations or things that have no proven existence, yet they are part of my meaning networks, such as the concept of “heaven” or “God”.\u003C\u002Fp>\n\u003Cp>Importantly, there is still a place for purely symbolic or linguistic meaning in the meaning network. Other words and linguistic features that can be purely formal (based on the position of words in a sentence, as required by the syntactical rules of a language) do help co-constitute the overall meaning network. But again, the linguistic meaning is only a part of the meaning network. It does not exhaust the full meaning of the word “mother” either.\u003C\u002Fp>\n\u003Cp>I remain agnostic as to what percentage of the overall meaning networks is constituted by a given modality. Some people may be more visually inclined, others rely on linguistic elements in their meaning networks. Not all modalities described here will be present in others‘ meaning networks. For example, a person suffering from a condition called aphantasia is unable to generate mental imagery. We can expect that their meaning network will not rely on any visual sense-data, or the influence of visual sense-data will be greatly diminished.\u003C\u002Fp>\n\u003Cp>The theory of meaning vis-à-vis the concept of meaning network relies on a few minimal requirements: it is not just formal-symbolic or purely linguistic, it is both internal\u002Fprivate and external\u002Fcommunity-shared, it is constituted by several modalities, among them, a linguistic symbols and relations are just one of many meaning-constituting elements. Meaning elements that constitute the meaning have weights that signal how strongly or weakly the given meaning element participates in the overall meaning.\u003C\u002Fp>\n\u003Ch2>\u003Ca id=\"post-965-_my37juc1t5pp\">\u003C\u002Fa>Chinese room and Stochastic parrots\u003C\u002Fh2>\n\u003Cp>Not all meaning networks are created equally. There are people with deeper understanding of concepts, things, bodily actions etc. than others. What is going on exactly when we say that someone’s understanding is deep or shallow?\u003C\u002Fp>\n\u003Cp>In the famous Chinese room experiment\u003Csup>\u003Csup>\u003Ca id=\"post-965-footnote-ref-2\" href=\"#post-965-footnote-2\">[3]\u003C\u002Fa>\u003C\u002Fsup>\u003C\u002Fsup> Searle shows us what it means to have exactly zero understanding of the meaning of words and sentences. Searle, who does not understand any Chinese, sits in a sealed room. From one side he is given a set of Chinese symbols that represent a written input by a native Chinese speaker. He is also given a set of Chinese symbols for answers and the instructions written in English that he understands how to correlate the input symbols with the output symbols, pretending to have a natural conversation in Chinese with a person outside of the room. Searle has no understanding of the meaning of the Chinese symbols; he correlates them purely formally based on their shape (i.e. form). Searle argues that such manipulation of formal symbols based on a fixed set of rules is analogous to how computers work. Because computers also work with formal symbols only, they have no understanding of the meaning of the symbols. Searle, like computers, does not understand Chinese because they work on the formal and syntactical level that lacks understanding of the meaning of words, or as Searle would put it: rule-based manipulation of formal symbols lacks mental states, which are preconditions for an intrinsic intentionality\u003Csup>\u003Csup>\u003Ca id=\"post-965-footnote-ref-3\" href=\"#post-965-footnote-3\">[4]\u003C\u002Fa>\u003C\u002Fsup>\u003C\u002Fsup>. Intentionality is a property of mental states, pointing out that each mental state has a content; they are about something.\u003C\u002Fp>\n\u003Cp>In a way, we could answer the question if LLM-based AI is intelligent right here by saying that LLMs have no mental states, therefore whatever they do lacks intentionality, aboutness or mental content. And if their states are not about anything, they cannot understand the meaning.\u003C\u002Fp>\n\u003Cp>I will not argue here if LLMs have mental states or intentionality. Let’s say it is a question of definition or empirical question. I want to imagine what kind of mental states, or rather what kind of meaning networks do LLMs work with, whether they have mental states or not.\u003C\u002Fp>\n\u003Cp>LLMs work by stitching together strings of words based on the probability of such a combination derived from high-dimensional representations latent in the large corpus of linguistic data. (Bender et al., 2021) coined the term “stochastic parrot” to describe that the LLM architecture produces seemingly coherent strings of words, but without any reference to the meaning of those strings of data, just like the parrot animal, which has no linguistic competence and just repeats the phonetic sounds it heard back to humans who interpret the mechanically repeated sounds as distinct phoneme units of distinguishable word(s). (Bender et al., 2021) argue that LLMs generate those strings stitched together “haphazardly” and that their coherence is purely “in the eyes of the beholder”, suggesting the coherence is not inherent in the output of LLMs itself, but rather externally given by the human interpreters of LLM-produced outputs. (Bender & Koller, 2020) then elucidate their understanding of the meaning by subscribing to the referential theory of meaning where they take the meaning to be “the relation between the form and something external to language…” (p. 5187). In other words, for a human or computer to be a competent speaker and understand the meaning of words used, they have to “ground” their understanding of words in the real world. (Bender & Koller, 2020) cite (Harnad, 1990) and his “Symbol grounding problem” to argue that, without the grounding of meanings in the physical world, the system (human, computer) cannot understand the language; it would be analogous to learning a language just by studying a dictionary. Meaningful responses must make connections between the words and the physical world.\u003C\u002Fp>\n\u003Cp>As I attempt to explain below, I disagree with Bender et al. in three specific cases:\u003C\u002Fp>\n\u003Col>\n\u003Cli>meaning must refer to something outside of language\u003C\u002Fli>\n\u003Cli>LLMs produce outputs haphazardly\u003C\u002Fli>\n\u003Cli>coherence is in the eyes of beholder\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Ch2>\u003Ca id=\"post-965-_gknh07wai9q7\">\u003C\u002Fa>Grounded and Ungrounded Meanings\u003C\u002Fh2>\n\u003Cp>(Harnad, 1990) in the era of the symbolic AI paradigm and in line with Searle’s Chinese room argument writes contra the idea that the purely formal manipulation of symbols can lead to understanding. The main thrust of his argumentation is that for symbolic systems to understand a language, they must ground the bottom level meaning of words in non-symbolic representations coming from sense-data of our perception of and interaction with the physical world.\u003C\u002Fp>\n\u003Cp>To “ground” their meanings, the systems must feature equivalents of two features that Harnad calls 1) Iconic representations and 2) Categorical representations and only then it is possible to give a linguistic label on top of them through 3) Symbolic representation.\u003C\u002Fp>\n\u003Cp>\u003Cem>1 Iconic representations\u003C\u002Fem>\u003C\u002Fp>\n\u003Cp>Iconic representations are raw perceptual data of some specific objects, which we yet cannot identify or name. In the case of vision, iconic representations would be the shapes that objects, such as horses, following Harnad’s own example, cast on our retinas. The mind would keep iconic representations of horses as analogs of their real shapes. At this level, the only functions that are needed according to Harnad are the ones to discriminate stored shapes of horses based on similarity\u002Fdifference. The important fact is that there is a non-arbitrary, isomorphic relationship between the icon and what it refers to, because the iconic representation has a structural relationship to its origin.\u003C\u002Fp>\n\u003Cp>\u003Cem>2 Categorical representation\u003C\u002Fem>\u003C\u002Fp>\n\u003Cp>According to Harnad, the icons are not enough for meaning. The world is too complex and we need faster identification of what shapes and sense data from our sensory organs are of a specific category. For that, we need to abstract invariant features from the iconic representations and create categories from these invariants, so that in future when we encounter a horse-like shaped object, we can identify faster if this object belongs to the category that has horse-like attributes. At this level, we still do not use the word “horse” to describe the categorical representation, but we identify horses by \u003Cem>the shape of their heads, being four-legged, having a tail\u003C\u002Fem>, etc.\u003C\u002Fp>\n\u003Cp>\u003Cem>3 Symbolic representation\u003C\u002Fem>\u003C\u002Fp>\n\u003Cp>Only at this level does the language come into a play. Once we have the “horse” as a set of abstracted features of what resembles a real-life horse, we associate the symbol “horse” in our mind with our perceptually grounded and experiential understanding of a horse. Despite the fact that symbols at this level are completely arbitrary – the shape of the symbol\u002Fword “horse” bears no resemblance to the actual horse – they are meaningful because their semantic content (meaning) is inherited from the iconic and categorical representations. On this view, what makes symbols meaningful is indeed their perceptually-derived references to the external world.\u003C\u002Fp>\n\u003Cp>Harnad interestingly allows for the possibility that we can create meaningful symbols that have no direct iconic and categorical representations. Harnad gives an example of a word \u003Cem>“zebra”\u003C\u002Fem>:\u003C\u002Fp>\n\u003Cp>\u003Cem>“zebra”\u003C\u002Fem> = “horse” + “stripes”.\u003C\u002Fp>\n\u003Cp>If the system has iconic and categorical representations of the word “stripes”, then Harnad admits that the symbolic representation will \u003Cem>inherit \u003C\u002Fem>its grounding based on the grounded symbolic representations of “horse” and “stripes”. What does it mean? The system will have a meaningful word “zebra” despite not having any direct perceptual reference of a zebra in the external world. The meaning is inherited, or derivative. Its only direct meanings are references to the linguistic symbols “horse” and “stripes”.\u003C\u002Fp>\n\u003Cp>It seems to me that (Bender & Koller, 2020), who rely on (Harnad, 1990), incorrectly assume that Harnad disallows meanings other than those that are grounded. But based on my reading of (Harnad, 1990), he allows meanings of symbols\u002Fwords not having a direct reference to the physical world, provided that its real references are symbols\u002Fwords whose meanings are grounded in the physical world. Exactly like the example of zebra = “horse” + “stripes”.\u003C\u002Fp>\n\u003Cp>Once we break apart the necessity of a direct connection between the meaning of a word\u002Fsymbol and its relationship with the physical world, there appears nothing that prevents us from injecting a number of intermediate symbols as the only real meanings of an original symbol, provided some symbol, a last one, is grounded in the physical world.\u003C\u002Fp>\n\u003Cp>I think we have undermined the first claim \u003Cem>1) meaning must refer to something outside of language\u003C\u002Fem>. We just saw that a meaning \u003Cem>can refer to something inside of language\u003C\u002Fem>, but to be in line with (Harnad, 1990), must \u003Cem>eventually\u003C\u002Fem> jump out of the linguistic space into a physical space of perceptions and iconic and categorical representations to be grounded, which for (Harnad, 1990) is a necessary a way out of an infinite regress of linguistic symbols referring \u003Cem>only \u003C\u002Fem>to other linguistic symbols, never outside of the language system.\u003C\u002Fp>\n\u003Ch2>\u003Ca id=\"post-965-_yni9wq403zva\">\u003C\u002Fa>Sparse and dense meaning networks\u003C\u002Fh2>\n\u003Cp>Returning to our concept of meaning networks, how can we improve our understanding of which meanings are \u003Cem>deep\u003C\u002Fem> or \u003Cem>dense\u003C\u002Fem>, and which ones are \u003Cem>shallow or sparse\u003C\u002Fem>?\u003C\u002Fp>\n\u003Cp>Using the symbol grounding theory by (Harnad, 1990), I think we can claim that my descriptions of the meaning network representing the meaning of the word “mother”, as used by me, are a case of a \u003Cem>grounded meaning par excellence\u003C\u002Fem>.\u003C\u002Fp>\n\u003Cp>Now imagine that I never had a mother. In fact, I have never read anything about mothers, except for the information that a mother is a human female that has at least one child. Imagine further that I have a grounded understanding of symbols “human”, “female” and “child”. How does such a shallow understanding of “mother” differ compared to my personal and deeper understanding?\u003C\u002Fp>\n\u003Cp>In the first case, the meaning network would be rather sparse. It would consist only of potentially three linguistic symbols. In the second example, the graphical schema of the meaning of “mother” as used by myself would be a dense network of perceptually derived data, lots of linguistic symbols that are grounded, and perhaps also ungrounded symbols such as “heaven” or “God” with which, for the sake of the argument, even in theory I cannot have any experiential relationship and all direct meanings tied to these two words are linguistic symbols. Some of them may be grounded at lower levels.\u003C\u002Fp>\n\u003Cp>As we said, we can have \u003Cem>weighted\u003C\u002Fem> edges (meaning elements) of the meaning network connected to a node (word\u002Fsymbol), as the standard graph theory in mathematics allows. The density and sparseness of meaning networks would not be calculated merely by the number of meaning elements. But the weight of participation of individual meaning elements in the constitution of the overall meaning must be taken into account.\u003C\u002Fp>\n\u003Cp>The modelling of meaning as networks also entails that the meaning is not a binary value. Towards the left side of the spectrum, the meaning is increasingly sparse. Towards the other side, the meaning is getting higher in its density.\u003C\u002Fp>\n\u003Ch2>\u003Ca id=\"post-965-_ovq933hufu4w\">\u003C\u002Fa>Coherence and haphazardness of LLMs\u003C\u002Fh2>\n\u003Cp>Previously, we said that (Bender et al., 2021) claim that\u003C\u002Fp>\n\u003Cp>2) LLMs produce outputs haphazardly\u003C\u002Fp>\n\u003Cp>3) coherence is in the eyes of beholder\u003C\u002Fp>\n\u003Cp>The claims 2) and 3) are in fact logically inter-dependent. If LLMs produce outputs haphazardly, any coherence and meaning that there is must be either by sheer chance, or reconstructed by the external system interpreting the output of LLMs. Such system can be, for example, humans.\u003C\u002Fp>\n\u003Cp>LLMs are symbol prediction machines. And their success in statistical prediction and pattern matching is dependent on the size of the corpus of data, supplemented by humans. The use of statistics and prediction does not make LLMs haphazard\u003Csup>\u003Csup>\u003Ca id=\"post-965-footnote-ref-4\" href=\"#post-965-footnote-4\">[5]\u003C\u002Fa>\u003C\u002Fsup>\u003C\u002Fsup>.\u003C\u002Fp>\n\u003Cp>Unless we are concerned with the fact that the data themselves are haphazard and incoherent. But that is not the case that (Bender et al., 2021) argue for. Whatever we can say about the quality of human discourse, especially the one coming from the online sources, if the data used by LLMs are derived from discourse of native speakers, the coherence is not in the eyes of the beholder, it is objectively embedded within the corpus of the data that LLMs work with, exactly because the coherence is initially created by humans themselves. What LLMs do, it appears to me, is that they apply statistics and prediction to the corpus of data that are linguistic compressions of all kinds of sparse and dense meaning networks created by humans themselves. LLMs can tap into the meaning networks through the exploitation of a fact that \u003Cem>all grounded meanings \u003C\u002Fem>or \u003Cem>all meaning networks\u003C\u002Fem> can be made explicit by a transformation into pure symbolic forms, i.e. into a language. The language is a window, or an interface into human meaning networks and all meanings grounded in an external physical world.\u003C\u002Fp>\n\u003Ch2>\u003Ca id=\"post-965-_yg0v14k93zld\">\u003C\u002Fa>Language as an interface into human meaning networks\u003C\u002Fh2>\n\u003Cp>We do know that LLMs work by statistically predicting the best next word that fits previously generated strings of texts and their context. If we mean by “stochastic” in the accusation of “stochastic parrot” to merely say that LLMs use statistics to generate their responses, it cannot be considered an argument against LLMs on its own, especially when human brains do certainly employ their own statistical prediction processes.\u003Csup>\u003Csup>\u003Ca id=\"post-965-footnote-ref-5\" href=\"#post-965-footnote-5\">[6]\u003C\u002Fa>\u003C\u002Fsup>\u003C\u002Fsup> Then, what is left is to critique the idea of LLMs being mere “parrots”? Those parrots that can talk imitate human speech sounds rather faithfully but cannot go beyond the data they heard and also, the sounds have no meaning to the parrots themselves. LLMs clearly go beyond the data, generating novel sentences. We can dismiss the first part of the accusations of being a parrot. What about the meaning of the accusation?\u003C\u002Fp>\n\u003Cp>LLMs have no bodies, so far. The meaning of their words and utterances cannot be \u003Cem>grounded\u003C\u002Fem> in the physical world. This in itself, as we have argued previously, does not constitute a problem leading to meaninglessness, if the words that LLMs output are at some level grounded in the physical world occupied and experienced by humans. Are they? I want to argue that indeed the words produced by LLMs are grounded, albeit by proxy of symbolic mediators that function as an interface into human meaning networks.\u003C\u002Fp>\n\u003Cp>Imagine that each human has a meaning network for each word. We admitted that the meaning networks are not fully private, but partially shared within the language community. When we talk and write and want to “get the meaning across”, we compress our complex and messy meaning networks into a language. By its design, the language compresses and makes complex things discrete and separated into graspable units. I can keep in my mind an overwhelming experience of a funeral. Yet, when I wrote into my diary about the funeral, I was forced to strip down the experience into words and sentences. In fact, all sources of writing, from newspapers to poetry and novels are artifacts in which we use the cognitive technology of writing to make seemingly indescribable amenable to linguistic description.\u003C\u002Fp>\n\u003Cp>After the compression that comes with using a language, we transform all the meaning elements that are not linguistic into some form of linguistic strings. These strings will be grounded because their meaning eventually refers back to other symbolic representations that are grounded or refer to iconic and categorical representations directly. The more meaning networks overlap for some words, the faster the invariant features of the meaning of the word will get into LLMs, because they are such powerful statistical machines that capture regularities and patterns in the data that even humans do not notice.\u003C\u002Fp>\n\u003Cp>After the grounded meanings from human physical experience in the world are compressed into the linguistic symbols that may or may not constitute meaning networks of other words, LLMs can tap into this linguistically compressed groundedness of the words.\u003C\u002Fp>\n\u003Cp>By proxy and being parasitic on human groundedness of the meaning, the LLMs use a language as an \u003Cem>interface\u003C\u002Fem> \u003Cem>to\u003C\u002Fem> \u003Cem>tap\u003C\u002Fem> into our meaning networks mediated by all the language output that we as humanity produced and used as input data for the LLMs to learn from. But using an interface comes with a price we have to pay. This act of using an interface – I previously called it \u003Cem>interfaciality\u003Csup>\u003Csup>\u003Ca id=\"post-965-footnote-ref-6\" href=\"#post-965-footnote-6\">[7]\u003C\u002Fa>\u003C\u002Fsup>\u003C\u002Fsup> –\u003C\u002Fem> is a lossy compression because the interface inevitably simplifies and reduces. Let me give an example. My feelings and memories and ideas constituting the meaning of the word “mother” I keep in my mind have no specific discrete forms. They are, to use a computer science term, a continuous signal exactly because my experiential (phenomenal) reality that co-constitutes the memory network (along with symbolic representations) is not discrete either. But by using a language as an interface into the meaning network of the word “mother”, I am reducing the continuous signals into discrete forms of words to create discrete, symbolic representations. Inevitably, a lot of detail is lost due to the fact that to make a linguistic representation of a phenomenal reality is a lossy process.\u003C\u002Fp>\n\u003Cp>How lossy is it? Depends on the density of a linguistic representation and how deep it taps into the entirety of the meaning networks for each word, and higher order elements like a sentence or paragraph. What are the meanings of these higher order elements? As I see it, the meaning is constituted by a process of merging together meaning networks of each word and \u003Cem>traversing\u003C\u002Fem> through the merged meaning networks where the valid rules for such traversing are governed by the syntactic rules of a given language. The lossiness of a linguistic representation would be different between an average person and, say, a Nobel laureate in literature. Whatever the ontological status of experiential reality is, a masterful writer or speaker can use their skill of using the language to bring closer the continuous and irreducible phenomenal reality into something that is graspable and meaningful for us.\u003C\u002Fp>\n\u003Ch2>\u003Ca id=\"post-965-_osctxq6frn4d\">\u003C\u002Fa>LLMs have dense, modally superficial meaning networks\u003C\u002Fh2>\n\u003Cp>For us humans it is normal to enrich our own meaning networks by a cross-pollution that happens when we interact only with linguistic representations of others, such as the literature, that makes the meaning networks denser, despite the fact we have no direct experiential (iconic, categorical representations) references with whatever we read in great novels or poetry or philosophy. Most people who read about neuroscience have no iconic or categorical representations of the terms like “frontal lobes”, “predictive coding”, or “glia cells”. Yet, we are happy to talk about it. A random person who talks about neuroscience has a very sparse meaning network regarding the topic, most likely having few if any symbolic representations that are grounded in an experiential reality. Presumably, most if not all meaning elements in her meaning networks related to the topic would be ungrounded symbolic\u002Flinguistic representations, with a few examples of films, photos or interviews with brain patients co-constituting what the topic means to her. If this neuroscience student told us anything about the brains, she would lack the meaning grounded in experiential reality of seeing and operating on the brain, lacking emotional connections to the patients etc, but would be able to recite latest theories, concepts, whole books on the topic. Our neuroscientist would be an expert theoretician on the topic: would analyze concepts, find similarities and differences, could offer criticism based on the coherence to the existing body of knowledge, and may even predict new theories based on seeing patterns and connections in the body of knowledge which no one else could see. Our neuroscience theoretician could even pass a medical school, but we would think that something is missing in her understanding of the topic.\u003C\u002Fp>\n\u003Cp>The LLMs are an extreme case of our neuroscience theoretician as far as meaning networks are concerned. Out of the coherent and structured linguistic data that we humans historically produced, LLMs reconstruct patterns that exist in our meaning networks and easily find new ones that no human could possibly do. Through the language, LLMs have an accessible \u003Cem>interface\u003C\u002Fem> into our discrete symbolic representation of continuous and irreducible phenomenal reality, which is inevitably a lossy process, but again the sheer amount of the linguistic data may shed more light on the existential reality than any person could possibly hope for. Any modification of meaning networks of LLMs consists of adding, removing, or modifying symbolic representations only. LLMs thus have extremely dense meaning networks with an unimaginable amount of weighted meaning elements. But what they lack, similarly to our theoretical neuroscientist, is a diversity in modality of those meaning elements. Most meaning elements in the meaning networks of the theoretical neuroscientist are symbolic representations. Whereas LLMs are the extreme limit of such “modally superficial” meaning networks where only one of the modalities – symbolic representation – can be used for coding the meaning elements.\u003C\u002Fp>\n\u003Ch2>\u003Ca id=\"post-965-_xtrzflbprc93\">\u003C\u002Fa>Discussion as summary\u003C\u002Fh2>\n\u003Cp>We never encountered an entity that would readily cite, analyse and synthetise the history of human experiential reality mediated through the lossy compression of linguistic representations. To answer whether LLMs can achieve a human-like intelligence depends, of course, on what we mean by “human”. Because of our societal tendency to privilege cognitive and intellectual processes, with the language endowment distinctly a human ability, the language abilities are at a top position on the list of what separates us from the rest of the animal kingdom. In that regard, LLMs have surpassed us. No human will ever be able to hold, analyse, synthesize, and traverse across the meaning networks built from the entire corpus of human knowledge and experience. Despite the fact that LLMs exhibit quantitatively dense but modally superficial meaning networks, the meaning of the output that LLMs generate is not stochastic, nor repetitive. For that reason, I suggest we should reject the current claim of LMMs being stochastic parrots. Instead, the meaning networks latent in the linguistic corpus and embedded in the higher dimensional networks of LLMs has a solid pedigree based on the grounded symbols referencing the human experiential reality. So what, if LLMs themselves did not experience it? We humans, with theoreticians and philosophers at the forefront, readily use words\u002Fsymbolic representations whose meaning network consists only of other words and concepts represented linguistically, because we have no other experience with it except for other words and concepts.\u003C\u002Fp>\n\u003Cp>The density of meaning networks embedded in LLMs is far superior to what our brains can hold. So what, if the meaning networks are implemented in silicon rather than carbon?\u003C\u002Fp>\n\u003Ch2>\u003Ca id=\"post-965-_za3x0518451d\">\u003C\u002Fa>References\u003C\u002Fh2>\n\u003Cp>Bell, D. (1999). \u003Cem>The coming of post-industrial society: a venture in social forecasting\u003C\u002Fem> (Special anniversary ed. \u002F). Basic Books.\u003C\u002Fp>\n\u003Cp>Bender, E. M., & Koller, A. (2020). Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data. In \u003Cem>Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics\u003C\u002Fem>. Association for Computational Linguistics. https:\u002F\u002Fdoi.org\u002F10.18653\u002Fv1\u002F2020.acl-main.463\u003C\u002Fp>\n\u003Cp>Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots, 610-623. https:\u002F\u002Fdoi.org\u002F10.1145\u002F3442188.3445922\u003C\u002Fp>\n\u003Cp>Castells, M., & Cardoso, G. (2006). \u003Cem>The network society: from knowledge to policy\u003C\u002Fem>. Johns Hopkins Center for Transatlantic Relations.\u003C\u002Fp>\n\u003Cp>Clark, A. (2013a). Are we predictive engines? Perils, prospects, and the puzzle of the porous perceiver. \u003Cem>Behavioral and Brain Sciences\u003C\u002Fem>, \u003Cem>36\u003C\u002Fem>(3), 233-253. https:\u002F\u002Fdoi.org\u002F10.1017\u002Fs0140525x12002440\u003C\u002Fp>\n\u003Cp>Clark, A. (2013b). Whatever next? Predictive brains, situated agents, and the future of cognitive science. \u003Cem>Behavioral and Brain Sciences\u003C\u002Fem>, \u003Cem>36\u003C\u002Fem>(3), 181-204. https:\u002F\u002Fdoi.org\u002F10.1017\u002Fs0140525x12000477\u003C\u002Fp>\n\u003Cp>Dijk, J. van. (2006). \u003Cem>The network society: social aspects of new media\u003C\u002Fem> (2nd ed.). Sage Publications.\u003C\u002Fp>\n\u003Cp>Ferenc, J. (2018). \u003Cem>Postkognitivistické HCI: Vidět interface jako sociotechnický vztah\u003C\u002Fem> [Diplomová práce]. Univerzita Karlova.\u003C\u002Fp>\n\u003Cp>Harnad, S. (1990). The symbol grounding problem. \u003Cem>Physica D: Nonlinear Phenomena\u003C\u002Fem>, \u003Cem>42\u003C\u002Fem>(1-3), 335-346. \u003Ca href=\"https:\u002F\u002Fdoi.org\u002F10.1016\u002F0167-2789(90)90087-6\">https:\u002F\u002Fdoi.org\u002F10.1016\u002F0167-2789(90)90087-6\u003C\u002Fa>\u003C\u002Fp>\n\u003Cp>Searle, J. R. (1980). Minds, brains, and programs. \u003Cem>Behavioral and Brain Sciences\u003C\u002Fem>, \u003Cem>3\u003C\u002Fem>(3), 417-424. https:\u002F\u002Fdoi.org\u002F10.1017\u002FS0140525X00005756\u003C\u002Fp>\n\u003Cp>Webster, F. (2006). \u003Cem>Theories of the information society\u003C\u002Fem> (3rd ed.). Routledge.\u003C\u002Fp>\n\u003Cp>Wittgenstein, L. (2009). \u003Cem>Philosophical investigations\u003C\u002Fem> (Rev. 4th ed.). Wiley-Blackwell.\u003C\u002Fp>\n\u003Col>\n\u003Cli id=\"post-965-footnote-0\">Bell, 1999; Castells, 2006; Dijk, 2006; Webster, 2006 \u003Ca href=\"#post-965-footnote-ref-0\">↑\u003C\u002Fa>\u003C\u002Fli>\n\u003Cli id=\"post-965-footnote-1\">Wittgenstein, 2009 \u003Ca href=\"#post-965-footnote-ref-1\">↑\u003C\u002Fa>\u003C\u002Fli>\n\u003Cli id=\"post-965-footnote-2\">Searle, 1980 \u003Ca href=\"#post-965-footnote-ref-2\">↑\u003C\u002Fa>\u003C\u002Fli>\n\u003Cli id=\"post-965-footnote-3\">ibid, Searle, 1980 \u003Ca href=\"#post-965-footnote-ref-3\">↑\u003C\u002Fa>\u003C\u002Fli>\n\u003Cli id=\"post-965-footnote-4\">If I know that you are a female from the US and your name starts with the letters “JAN”. There is a good chance that the fourth letter in your name is “E”. I cannot be sure entirely, but the answer stems from a statistical analysis of the set of all US female names and the frequency of the letters in the names. This is not a haphazard process to get to the answer. Similarly, LLMs use statistics to get to their answer. I am not sure why the use of statistical methods would constitute an haphazard process of working with data. \u003Ca href=\"#post-965-footnote-ref-4\">↑\u003C\u002Fa>\u003C\u002Fli>\n\u003Cli id=\"post-965-footnote-5\">Clark, 2013a; Clark, 2013b \u003Ca href=\"#post-965-footnote-ref-5\">↑\u003C\u002Fa>\u003C\u002Fli>\n\u003Cli id=\"post-965-footnote-6\">Ferenc, 2018 \u003Ca href=\"#post-965-footnote-ref-6\">↑\u003C\u002Fa>\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Cp> \u003C\u002Fp>\n",false,{"rendered":22,"protected":20},"\u003Cp>In this essay, I argue that LLMs are not stochastic parrots by evaluating the claims by (Bender et al., 2021) who coined the term “stochastic parrot” to express the view that the output of LLMs is 1) haphazard, 2) incoherent, 3) meaningless, because, following (Harnad, 1990), it produces symbols that are not grounded in the […]\u003C\u002Fp>\n",1,0,"open","","standard",{"footnotes":26},[30],4,[],[33,14,34,35,36,37,38],"post-965","type-post","status-publish","format-standard","hentry","category-article",{"self":40,"collection":46,"about":49,"author":52,"replies":56,"version-history":59,"predecessor-version":63,"wp:attachment":67,"wp:term":70,"curies":77},[41],{"href":42,"targetHints":43},"https:\u002F\u002Fcms.local.test\u002Fwp-json\u002Fwp\u002Fv2\u002Fposts\u002F965",{"allow":44},[45],"GET",[47],{"href":48},"https:\u002F\u002Fcms.local.test\u002Fwp-json\u002Fwp\u002Fv2\u002Fposts",[50],{"href":51},"https:\u002F\u002Fcms.local.test\u002Fwp-json\u002Fwp\u002Fv2\u002Ftypes\u002Fpost",[53],{"embeddable":54,"href":55},true,"https:\u002F\u002Fcms.local.test\u002Fwp-json\u002Fwp\u002Fv2\u002Fusers\u002F1",[57],{"embeddable":54,"href":58},"https:\u002F\u002Fcms.local.test\u002Fwp-json\u002Fwp\u002Fv2\u002Fcomments?post=965",[60],{"count":61,"href":62},3,"https:\u002F\u002Fcms.local.test\u002Fwp-json\u002Fwp\u002Fv2\u002Fposts\u002F965\u002Frevisions",[64],{"id":65,"href":66},971,"https:\u002F\u002Fcms.local.test\u002Fwp-json\u002Fwp\u002Fv2\u002Fposts\u002F965\u002Frevisions\u002F971",[68],{"href":69},"https:\u002F\u002Fcms.local.test\u002Fwp-json\u002Fwp\u002Fv2\u002Fmedia?parent=965",[71,74],{"taxonomy":72,"embeddable":54,"href":73},"category","https:\u002F\u002Fcms.local.test\u002Fwp-json\u002Fwp\u002Fv2\u002Fcategories?post=965",{"taxonomy":75,"embeddable":54,"href":76},"post_tag","https:\u002F\u002Fcms.local.test\u002Fwp-json\u002Fwp\u002Fv2\u002Ftags?post=965",[78],{"name":79,"href":80,"templated":54},"wp","https:\u002F\u002Fapi.w.org\u002F{rel}",{"author":82,"wp:term":99},[83],{"id":23,"name":84,"url":85,"description":26,"link":86,"slug":84,"avatar_urls":87,"_links":91},"jakubferenc","https:\u002F\u002Fcms.local.test\u002Fwordpress","https:\u002F\u002Fcms.local.test\u002Fauthor\u002Fjakubferenc\u002F",{"24":88,"48":89,"96":90},"https:\u002F\u002Fsecure.gravatar.com\u002Favatar\u002Fbe0a3bc58c835417264df524152162a21507cbbd47b541b516705d259a516c1f?s=24&d=mm&r=g","https:\u002F\u002Fsecure.gravatar.com\u002Favatar\u002Fbe0a3bc58c835417264df524152162a21507cbbd47b541b516705d259a516c1f?s=48&d=mm&r=g","https:\u002F\u002Fsecure.gravatar.com\u002Favatar\u002Fbe0a3bc58c835417264df524152162a21507cbbd47b541b516705d259a516c1f?s=96&d=mm&r=g",{"self":92,"collection":96},[93],{"href":55,"targetHints":94},{"allow":95},[45],[97],{"href":98},"https:\u002F\u002Fcms.local.test\u002Fwp-json\u002Fwp\u002Fv2\u002Fusers",[100,121],[101],{"id":30,"link":102,"name":103,"slug":103,"taxonomy":72,"_links":104},"https:\u002F\u002Fcms.local.test\u002Fcategory\u002Farticle\u002F","article",{"self":105,"collection":110,"about":113,"wp:post_type":116,"curies":119},[106],{"href":107,"targetHints":108},"https:\u002F\u002Fcms.local.test\u002Fwp-json\u002Fwp\u002Fv2\u002Fcategories\u002F4",{"allow":109},[45],[111],{"href":112},"https:\u002F\u002Fcms.local.test\u002Fwp-json\u002Fwp\u002Fv2\u002Fcategories",[114],{"href":115},"https:\u002F\u002Fcms.local.test\u002Fwp-json\u002Fwp\u002Fv2\u002Ftaxonomies\u002Fcategory",[117],{"href":118},"https:\u002F\u002Fcms.local.test\u002Fwp-json\u002Fwp\u002Fv2\u002Fposts?categories=4",[120],{"name":79,"href":80,"templated":54},[],[],{"cs":124,"es":128,"fr":132},{"title":125,"slug":126,"description":127},"Proti stochastickým papouškům: role významu při posuzování inteligence AI","proti-stochastickym-papouskum-role-vyznamu-pri-posuzovani-inteligence-ai","Esej proti tezi o „stochastických papoušcích“: výstupy LLM podle mě dědí ukotvení významu nepřímo z lidského jazyka, což popisuji pomocí sítí významu.",{"title":129,"slug":130,"description":131},"Contra los loros estocásticos: el papel del significado al evaluar la inteligencia de la IA","contra-los-loros-estocasticos-el-papel-del-significado-al-evaluar-la-inteligencia-de-la-ia","Ensayo contra la tesis de los «loros estocásticos»: sostengo que los LLM heredan de forma indirecta el anclaje del significado del lenguaje humano, descrito como redes de significado.",{"title":133,"slug":134,"description":135},"Contre les perroquets stochastiques : le rôle du sens dans l’évaluation de l’intelligence de l’IA","contre-les-perroquets-stochastiques-le-role-du-sens-dans-l-evaluation-de-l-intelligence-de-l-ia","Un essai contre la thèse des « perroquets stochastiques » : les LLM héritent indirectement de l’ancrage du sens dans le langage humain, décrit comme des réseaux de sens.","\u003Cp>En este ensayo sostengo que los LLM no son loros estocásticos, y lo hago evaluando las afirmaciones de (Bender et al., 2021), quienes acuñaron el término «loro estocástico» para expresar la idea de que la salida de los LLM es 1) azarosa, 2) incoherente y 3) carente de significado porque, siguiendo a (Harnad, 1990), produce símbolos que no están anclados en la existencia fenoménica humana dentro de un mundo físico. Presento el concepto de «redes de significado», una explicación reticular del significado de los términos que consiste en asociaciones ponderadas, multimodales y socialmente estabilizadas que constituyen lo que un término significa para un usuario de la lengua. El argumento principal del ensayo pretende mostrar que los LLM producen salidas que heredan el anclaje de forma indirecta del lenguaje producido por los seres humanos, que a su vez está anclado. El uso de datos lingüísticos como interfaz hacia la existencia humana en el mundo físico sufre una compresión con pérdida: cualquier interfaz que traduzca la existencia humana, que es una «señal continua» (por usar la terminología de la informática), en unidades discretas, como los símbolos lingüísticos, pierde la riqueza del detalle. El anclaje es, por tanto, a la vez indirecto y con pérdida. En comparación con la inteligencia y el uso del significado propios del nivel humano, los LLM ocupan un nicho nunca visto: el de sistemas que producen una salida lingüística de nivel humano cuyo significado tiene una modalidad puramente simbólica. Las redes de significado generadas por los LLM pueden entenderse como un ejemplo extremo de inteligencia humana impregnada de lenguaje.\u003C\u002Fp>\n\u003Ch2>\u003Ca id=\"post-965-_geao7idfhv2\">\u003C\u002Fa>Introducción\u003C\u002Fh2>\n\u003Cp>Al menos desde la segunda mitad del siglo XX, nuestra sociedad ha sido calificada de sociedad de la información, sociedad red, sociedad postindustrial, etc.\u003Csup>\u003Csup>\u003Ca id=\"post-965-footnote-ref-0\" href=\"#post-965-footnote-0\">[1]\u003C\u002Fa>\u003C\u002Fsup>\u003C\u002Fsup> Todos estos términos reflejan el modo dominante en que funciona la sociedad. La información, las redes, las abstracciones y el conocimiento simbólico son la moneda de nuestro tiempo. Los individuos con un alto nivel educativo y aptitud para el pensamiento analítico y abstracto y para el procesamiento de información son los profesionales más buscados. La llegada del cognitivismo a la filosofía de la mente y a las ciencias cognitivas marcó el comienzo de la era en que la metáfora del ser humano como procesador de información empezó a tomarse en serio incluso en la vanguardia de nuestra búsqueda por comprender quiénes somos y cómo funcionan nuestras mentes. El trabajo de Simon y Newell en los sistemas de software Logic Theorist y General Problem Solver, ELIZA de Weizenbaum, SHRDLU de Winograd, e incluso Syntactic structures de Chomsky y, más tarde, el giro biológico en la lingüística fueron algunas de las muchas teorías y proyectos que intentaron explicar la cognición humana apelando a la lógica y al lenguaje en tanto que ingredientes esenciales de la inteligencia humana. Es cierto que desde entonces las ciencias cognitivas y la IA han experimentado cambios profundos. Los cambios de paradigma conexionista y 4E pusieron el acento en el uso de redes neuronales y en el papel del cuerpo inserto en contextos situados y, más ampliamente, culturales y sociales, para crear un modelo más fiel de cómo funcionan los procesos cerebrales y la cognición humana. Pero el interés por comprender la \u003Cem>inteligencia\u003C\u002Fem>, tanto humana como artificial, sigue siendo primordial.\u003C\u002Fp>\n\u003Cp>Sin embargo, la aparición de ChatGPT, Bard, Claude y otros chatbots basados en la arquitectura de los grandes modelos de lenguaje (LLM) nos obliga a reconsiderar quiénes somos. Los LLM muestran que el uso del lenguaje, el rasgo humano más distintivo frente a \u003Cem>todas \u003C\u002Fem>las demás especies animales, puede automatizarse para producir respuestas semejantes a las humanas, superar con facilidad la prueba de Turing y aventajar al ser humano medio en el manejo de datos factuales, en el razonamiento lógico o en las capacidades lingüísticas. Si los LLM vencen a los seres humanos en las tareas que consideramos exclusivamente humanas, ¿se está volviendo la inteligencia artificial basada en LLM más parecida a nosotros que nosotros mismos? Parece absurdo afirmar que un LLM, una máquina de predicción formal de cadenas de símbolos, pueda alcanzar el estatus de ser humano. A menos que seamos hipócritas, no podemos dejar de ensalzar la inteligencia y la competencia lingüística humanas como los valores cognitivos \u003Cem>humanos\u003C\u002Fem> más elevados en el momento en que otra entidad nos supera. Para evitar el enigma ontológico de qué significa ser humano, preguntaré de otro modo: ¿pueden los LLM, siquiera en teoría, llegar a ser más inteligentes que los seres humanos? Para evitar, de nuevo, definir qué es la inteligencia, acotaré aún más mi indagación: signifique lo que signifique ser inteligente, presupongo que la inteligencia de tipo humano requiere comprensión; y la comprensión requiere captar lo que significan las palabras, las oraciones o los conceptos. Sin comprensión del significado no puede haber inteligencia.\u003C\u002Fp>\n\u003Ch2>\u003Ca id=\"post-965-_hy70hds010iq\">\u003C\u002Fa>Redes de significado: una intersección entre la fenomenología y los significados lingüísticos\u003C\u002Fh2>\n\u003Cp>Es importante aclarar qué entiendo por significado. No presentaré aquí un panorama de las teorías del significado en la filosofía analítica. Lo que \u003Cem>sí puedo\u003C\u002Fem> esbozar aquí es una teoría mínima del significado que choca tanto con la \u003Cem>teoría referencial del significado\u003C\u002Fem> como con la \u003Cem>teoría veritativo-condicional\u003C\u002Fem> \u003Cem>del significado\u003C\u002Fem>.\u003C\u002Fp>\n\u003Cp>Imaginemos que queremos hablar del significado de la palabra «madre». Mi madre falleció hace unos meses. Lo que genera mi mente al pensar en el significado de la palabra es lo siguiente: recuerdo una imagen visual del rostro sombrío de mi madre y la frialdad de su frente cuando la besé mientras yacía en el ataúd en la iglesia. Recuerdo el olor del incienso mientras oía las notas de Dancing Queen de ABBA, interpretada por un cuarteto de cuerda con viola, violines y violonchelo. Tengo recuerdos táctiles de abrazar a mi madre enferma unos días antes de su muerte. Siento sentimientos no objetivables de tristeza, remordimiento y felicidad al pensar en la palabra. Además, mi mente gravita hacia el tema de qué significa ser madre, del que hablé con mi prometida embarazada. Mi mente también es consciente de los vínculos puramente lingüísticos que la palabra «madre» tiene con otras palabras como «padre», «embarazo», «mujer», «hijos», etc., y de las relaciones lingüísticas entre la palabra «madre» y otros rasgos de la lengua («mi», posesivo; «madres», plural; «sin respirar», construcción verbal, etc.). También soy consciente de las connotaciones de la palabra «madre» que he asimilado en mi comprensión de la palabra al leer periódicos y literatura o al aprender intersubjetivamente, hablando con otras personas, qué pueden hacer las madres o cómo son.\u003C\u002Fp>\n\u003Cp>El significado de la palabra «madre» es para mí a la vez privado y público. El significado privado consiste en elementos de diversas modalidades perceptivas y en símbolos lingüísticos. El significado público, externo, consiste en lo que he oído y asimilado de mi comunidad y de la sociedad en general, normalmente en forma de símbolos lingüísticos (es decir, palabras y oraciones), lo cual puede haber afectado, mediante un bucle de retroalimentación, a mis subsignificados no lingüísticos, derivados de la percepción (p. ej., cuando oí lo mal que se había portado la madre de alguien, empecé a apreciar más a la mía y a sentir más amor por ella, lo que modificó mis subsignificados anteriores, derivados de los sentimientos).\u003C\u002Fp>\n\u003Cp>Si tomamos prestados además de la teoría de redes los términos básicos «nodo» y «aristas», su equivalente sería\u003C\u002Fp>\n\u003Cp>nodo = palabras \u002F conceptos\u003C\u002Fp>\n\u003Cp>arista = elemento de significado que puede tener muchas modalidades: representaciones perceptivas o simbólicas, sentimientos, otros nodos mediados por las representaciones simbólicas\u003C\u002Fp>\n\u003Cp>Como vemos, el significado de una palabra es ante todo un significado para mí, que existe en mi mente. Es una «red de significado» multimodal formada por elementos tanto perceptivos como lingüísticos. Esta «red de significado» no es estática, sino que reacciona dinámicamente a mi existencia situada en el mundo; en cualquier momento pueden añadirse nuevos elementos perceptivos o lingüísticos, o posiblemente eliminarse (o más bien sobrescribirse).\u003C\u002Fp>\n\u003Cp>El término «madre» no puede referirse a un solo «objeto» existente en el mundo. Dejo de lado la distinción fregeana entre «sentido» y «referencia», que presupone referentes y sentido estables. En su lugar, quiero proponer una semántica multimodal y reticular en la que el significado de los términos equivale a las propias redes de significado. Con ello puedo integrar datos sensoriales, sentimientos, imágenes visuales, creencias falsas, palabras, conceptos y recuerdos de muchas modalidades de los que tengo la sensación clara y distinta de que constituyen lo que quiero decir cuando uso el término «madre», o términos como «mi madre» o «Helena Ferencová».\u003C\u002Fp>\n\u003Cp>La red de significado está abierta a la influencia de los significados públicos y compartidos de la palabra «madre», y eso ayuda a defender la teoría del significado aquí propuesta frente a la acusación de significado privado, que, como argumentó Wittgenstein, es imposible\u003Csup>\u003Csup>\u003Ca id=\"post-965-footnote-ref-1\" href=\"#post-965-footnote-1\">[2]\u003C\u002Fa>\u003C\u002Fsup>\u003C\u002Fsup>. La comunidad de la que soy miembro sí participa en la constitución de lo que «madre» significa para mí, y soy consciente de que nuestras experiencias personales y lo que pensamos sobre las madres coconstituyen mutuamente nuestras redes de significado, y de que la cultura compartida influye en nuestras redes de significado de modo que se solapan considerablemente. Eso implica que debe haber elementos estables que estén fijados, o cuya estabilidad se imponga de forma dinámica y continua mediante la interacción lingüística o perceptiva con los demás. En otras palabras, las redes de significado pueden ser dinámicas y, sin embargo, su estabilidad se negocia constantemente en la interacción con los demás. No puedo cambiar toda la red de significado de lo que entiendo por «madre», porque estaría hablando de otra persona o de otra cosa. Si el lenguaje ha de conservar una función comunicativa, necesito mantener bastante estables los contenidos de mis redes de significado (en otras palabras, el significado de los términos que uso) para que la mayoría de la gente me entienda razonablemente. Si lo que quiero decir difiere radicalmente de lo que quiere decir cualquier otra persona, necesito explicarme a los demás y, con ello, actualizar sus propias redes de significado, siempre que estén abiertos a integrar cognitivamente información nueva.\u003C\u002Fp>\n\u003Cp>En cuanto a las condiciones de verdad, la verdad puede ser un elemento de mi red de significado, pero no agota todo el concepto de significado. Mi sentimiento subjetivo de pena es ahora mismo más portador de significado que cualquier concepción de la verdad. No quiero decir que una condición de verdad no participe en el significado de los términos, sino que queda relegada, por así decirlo, al nivel de los demás elementos de significado.\u003C\u002Fp>\n\u003Cp>Parece plausible que el aspecto dinámico de las redes de significado se realice en parte a través de la influencia del mundo exterior sobre los elementos de significado almacenados en mi memoria. Pero mis elementos de significado también pueden cambiar porque mi memoria falla, cuando olvido palabras o experiencias relacionadas con mi madre. Asimismo, por efecto del tiempo, es probable que algunos elementos de significado se desvanezcan en parte, mientras que otros sigan siendo fuertes o incluso se refuercen. Si tomamos prestada la terminología de las redes neuronales, en las que se basan los propios LLM, podemos asignar a cada elemento de significado un \u003Cem>peso\u003C\u002Fem> que indica con qué fuerza o debilidad participa un elemento de significado dado en la constitución del significado. Si mañana enciendo una varilla de incienso en casa, puede que aumente el peso de los elementos de significado relacionados con el olor, la iglesia, el ataúd y el funeral en el significado de la palabra «madre».\u003C\u002Fp>\n\u003Cp>Los elementos de significado individuales también pueden ser falsos. Puede que haya empezado a asociar las chaquetas de terciopelo negro con el significado de «madre» por mi creencia de que ella llevaba esa prenda en el funeral. En realidad, puede que fuera un vestido de terciopelo azul marino oscuro, pero debido a la mala iluminación el color me pareció negro. Así, algunos elementos de significado pueden añadirse a mi red de significado sobre la base de una creencia falsa. Pero lo que es indudablemente cierto es que este elemento de significado falso participa en el significado de «madre». Creo que lo mismo puede decirse de los elementos de significado derivados de referencias a alucinaciones o a cosas cuya existencia no está probada y que, sin embargo, forman parte de mis redes de significado, como el concepto de «cielo» o de «Dios».\u003C\u002Fp>\n\u003Cp>Lo importante es que sigue habiendo lugar en la red de significado para un significado puramente simbólico o lingüístico. Otras palabras y rasgos lingüísticos que pueden ser puramente formales (basados en la posición de las palabras en una oración, tal como exigen las reglas sintácticas de una lengua) sí contribuyen a constituir la red de significado en su conjunto. Pero, de nuevo, el significado lingüístico es solo una parte de la red de significado. Tampoco él agota el significado completo de la palabra «madre».\u003C\u002Fp>\n\u003Cp>Me mantengo agnóstico en cuanto a qué porcentaje de las redes de significado en su conjunto está constituido por una modalidad dada. Algunas personas pueden tener una inclinación más visual; otras se apoyan en elementos lingüísticos en sus redes de significado. No todas las modalidades aquí descritas estarán presentes en las redes de significado de los demás. Por ejemplo, una persona que padece la condición llamada afantasía es incapaz de generar imágenes mentales. Cabe esperar que su red de significado no se apoye en ningún dato sensorial visual, o que la influencia de los datos sensoriales visuales esté muy disminuida.\u003C\u002Fp>\n\u003Cp>La teoría del significado vis-à-vis el concepto de red de significado se apoya en unos pocos requisitos mínimos: no es solo formal-simbólica ni puramente lingüística; es a la vez interna\u002Fprivada y externa\u002Fcompartida por la comunidad; está constituida por varias modalidades, entre las cuales los símbolos y las relaciones lingüísticas son solo uno de los muchos elementos constitutivos del significado. Los elementos de significado que constituyen el significado tienen pesos que indican con qué fuerza o debilidad participa un elemento de significado dado en el significado global.\u003C\u002Fp>\n\u003Ch2>\u003Ca id=\"post-965-_my37juc1t5pp\">\u003C\u002Fa>La habitación china y los loros estocásticos\u003C\u002Fh2>\n\u003Cp>No todas las redes de significado son iguales. Hay personas con una comprensión más profunda que otras de los conceptos, las cosas, las acciones corporales, etc. ¿Qué ocurre exactamente cuando decimos que la comprensión de alguien es profunda o superficial?\u003C\u002Fp>\n\u003Cp>En el famoso experimento de la habitación china\u003Csup>\u003Csup>\u003Ca id=\"post-965-footnote-ref-2\" href=\"#post-965-footnote-2\">[3]\u003C\u002Fa>\u003C\u002Fsup>\u003C\u002Fsup> Searle nos muestra qué significa tener una comprensión exactamente nula del significado de las palabras y las oraciones. Searle, que no entiende nada de chino, está sentado en una habitación cerrada. Por un lado recibe un conjunto de símbolos chinos que representan un texto escrito por un hablante nativo de chino. También recibe un conjunto de símbolos chinos para las respuestas, así como instrucciones escritas en inglés, que él entiende, sobre cómo correlacionar los símbolos de entrada con los de salida, de modo que finge mantener una conversación natural en chino con una persona que está fuera de la habitación. Searle no comprende en absoluto el significado de los símbolos chinos; los correlaciona de forma puramente formal, a partir de su figura (es decir, su forma). Searle sostiene que esta manipulación de símbolos formales basada en un conjunto fijo de reglas es análoga a como funcionan los ordenadores. Puesto que los ordenadores también trabajan solo con símbolos formales, no comprenden el significado de los símbolos. Searle, al igual que los ordenadores, no entiende el chino porque ambos operan en el nivel formal y sintáctico, que carece de comprensión del significado de las palabras, o, como diría Searle: la manipulación de símbolos formales regida por reglas carece de estados mentales, que son condición previa de una intencionalidad intrínseca\u003Csup>\u003Csup>\u003Ca id=\"post-965-footnote-ref-3\" href=\"#post-965-footnote-3\">[4]\u003C\u002Fa>\u003C\u002Fsup>\u003C\u002Fsup>. La intencionalidad es una propiedad de los estados mentales que señala que cada estado mental tiene un contenido; los estados mentales son acerca de algo.\u003C\u002Fp>\n\u003Cp>En cierto modo, podríamos responder aquí mismo a la pregunta de si la IA basada en LLM es inteligente diciendo que los LLM no tienen estados mentales y que, por tanto, todo lo que hacen carece de intencionalidad, de direccionalidad hacia algo o de contenido mental. Y si sus estados no son acerca de nada, no pueden comprender el significado.\u003C\u002Fp>\n\u003Cp>No discutiré aquí si los LLM tienen estados mentales o intencionalidad. Digamos que es una cuestión de definición o una cuestión empírica. Quiero imaginar con qué tipo de estados mentales, o más bien con qué tipo de redes de significado, trabajan los LLM, tengan o no estados mentales.\u003C\u002Fp>\n\u003Cp>Los LLM funcionan enlazando cadenas de palabras según la probabilidad de esa combinación, derivada de representaciones de alta dimensionalidad latentes en el gran corpus de datos lingüísticos. (Bender et al., 2021) acuñaron el término «loro estocástico» para describir que la arquitectura de los LLM produce cadenas de palabras aparentemente coherentes, pero sin referencia alguna al significado de esas cadenas de datos, igual que el loro, el animal, que no tiene competencia lingüística y se limita a repetir los sonidos fonéticos que ha oído a los seres humanos, quienes interpretan esos sonidos repetidos mecánicamente como unidades fonémicas diferenciadas de palabras distinguibles. (Bender et al., 2021) sostienen que los LLM generan esas cadenas enlazadas «al azar» y que su coherencia está puramente «en los ojos del observador», lo que sugiere que la coherencia no es inherente a la salida de los LLM, sino que se la dan desde fuera los intérpretes humanos de las salidas producidas por los LLM. (Bender & Koller, 2020) aclaran después su concepción del significado adhiriéndose a la teoría referencial del significado, en la que entienden el significado como «la relación entre la forma y algo externo al lenguaje…» (p. 5187). En otras palabras, para que un ser humano o un ordenador sea un hablante competente y comprenda el significado de las palabras que usa, tiene que «anclar» su comprensión de las palabras en el mundo real. (Bender & Koller, 2020) citan a (Harnad, 1990) y su «Symbol grounding problem» para argumentar que, sin el anclaje de los significados en el mundo físico, el sistema (ser humano, ordenador) no puede comprender el lenguaje; sería análogo a aprender una lengua solo estudiando un diccionario. Las respuestas con significado deben establecer conexiones entre las palabras y el mundo físico.\u003C\u002Fp>\n\u003Cp>Como intentaré explicar a continuación, discrepo de Bender et al. en tres puntos concretos:\u003C\u002Fp>\n\u003Col>\n\u003Cli>el significado debe referirse a algo fuera del lenguaje\u003C\u002Fli>\n\u003Cli>los LLM producen salidas al azar\u003C\u002Fli>\n\u003Cli>la coherencia está en los ojos del observador\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Ch2>\u003Ca id=\"post-965-_gknh07wai9q7\">\u003C\u002Fa>Significados anclados y no anclados\u003C\u002Fh2>\n\u003Cp>(Harnad, 1990), en la época del paradigma de la IA simbólica y en consonancia con el argumento de la habitación china de Searle, escribe contra la idea de que la manipulación puramente formal de símbolos pueda conducir a la comprensión. El núcleo de su argumentación es que, para que los sistemas simbólicos comprendan una lengua, deben anclar el significado de las palabras en el nivel más básico en representaciones no simbólicas procedentes de los datos sensoriales de nuestra percepción del mundo físico y de nuestra interacción con él.\u003C\u002Fp>\n\u003Cp>Para «anclar» sus significados, los sistemas deben contar con equivalentes de dos elementos que Harnad llama 1) representaciones icónicas y 2) representaciones categoriales, y solo entonces es posible ponerles encima una etiqueta lingüística mediante 3) la representación simbólica.\u003C\u002Fp>\n\u003Cp>\u003Cem>1 Representaciones icónicas\u003C\u002Fem>\u003C\u002Fp>\n\u003Cp>Las representaciones icónicas son datos perceptivos en bruto de objetos concretos que todavía no podemos identificar ni nombrar. En el caso de la visión, las representaciones icónicas serían las formas que los objetos, como los caballos, por seguir el propio ejemplo de Harnad, proyectan en nuestra retina. La mente conservaría las representaciones icónicas de los caballos como análogos de sus formas reales. En este nivel, según Harnad, las únicas funciones necesarias son las que discriminan las formas almacenadas de caballos según su similitud o diferencia. Lo importante es que existe una relación no arbitraria, isomórfica, entre el icono y aquello a lo que se refiere, porque la representación icónica guarda una relación estructural con su origen.\u003C\u002Fp>\n\u003Cp>\u003Cem>2 Representación categorial\u003C\u002Fem>\u003C\u002Fp>\n\u003Cp>Según Harnad, los iconos no bastan para el significado. El mundo es demasiado complejo y necesitamos identificar con mayor rapidez qué formas y qué datos sensoriales procedentes de nuestros órganos de los sentidos pertenecen a una categoría determinada. Para ello necesitamos abstraer rasgos invariantes de las representaciones icónicas y crear categorías a partir de esas invariantes, de modo que en el futuro, cuando encontremos un objeto con forma de caballo, podamos identificar más rápido si pertenece a la categoría que tiene atributos equinos. En este nivel todavía no usamos la palabra «caballo» para describir la representación categorial, sino que identificamos a los caballos por \u003Cem>la forma de su cabeza, por tener cuatro patas, por tener cola\u003C\u002Fem>, etc.\u003C\u002Fp>\n\u003Cp>\u003Cem>3 Representación simbólica\u003C\u002Fem>\u003C\u002Fp>\n\u003Cp>Solo en este nivel entra en juego el lenguaje. Una vez que tenemos el «caballo» como conjunto de rasgos abstraídos de lo que se parece a un caballo real, asociamos en nuestra mente el símbolo «caballo» con nuestra comprensión, perceptivamente anclada y experiencial, de un caballo. Pese a que los símbolos de este nivel son completamente arbitrarios —la forma del símbolo\u002Fpalabra «caballo» no guarda parecido alguno con el caballo real—, tienen significado porque su contenido semántico (el significado) se hereda de las representaciones icónicas y categoriales. Desde este punto de vista, lo que da significado a los símbolos son precisamente sus referencias al mundo exterior derivadas de la percepción.\u003C\u002Fp>\n\u003Cp>Curiosamente, Harnad admite la posibilidad de crear símbolos con significado que no tengan representaciones icónicas y categoriales directas. Harnad pone el ejemplo de la palabra \u003Cem>«cebra»\u003C\u002Fem>:\u003C\u002Fp>\n\u003Cp>\u003Cem>«cebra»\u003C\u002Fem> = «caballo» + «rayas».\u003C\u002Fp>\n\u003Cp>Si el sistema tiene representaciones icónicas y categoriales de la palabra «rayas», entonces Harnad admite que la representación simbólica \u003Cem>heredará \u003C\u002Fem>su anclaje a partir de las representaciones simbólicas ancladas de «caballo» y «rayas». ¿Qué significa esto? El sistema tendrá una palabra con significado, «cebra», pese a no tener ninguna referencia perceptiva directa de una cebra en el mundo exterior. El significado es heredado, o derivado. Sus únicos significados directos son referencias a los símbolos lingüísticos «caballo» y «rayas».\u003C\u002Fp>\n\u003Cp>Me parece que (Bender & Koller, 2020), que se apoyan en (Harnad, 1990), suponen erróneamente que Harnad no admite otros significados que los anclados. Pero, según mi lectura de (Harnad, 1990), admite significados de símbolos\u002Fpalabras que no tienen una referencia directa al mundo físico, siempre que sus referencias reales sean símbolos\u002Fpalabras cuyos significados estén anclados en el mundo físico. Exactamente como en el ejemplo de cebra = «caballo» + «rayas».\u003C\u002Fp>\n\u003Cp>Una vez que rompemos la necesidad de una conexión directa entre el significado de una palabra\u002Fsímbolo y su relación con el mundo físico, parece que nada nos impide introducir una serie de símbolos intermedios como los únicos significados reales de un símbolo original, siempre que algún símbolo, el último, esté anclado en el mundo físico.\u003C\u002Fp>\n\u003Cp>Creo que hemos socavado la primera afirmación, \u003Cem>1) el significado debe referirse a algo fuera del lenguaje\u003C\u002Fem>. Acabamos de ver que un significado \u003Cem>puede referirse a algo dentro del lenguaje\u003C\u002Fem>, pero, para ser coherente con (Harnad, 1990), debe \u003Cem>en última instancia\u003C\u002Fem> saltar del espacio lingüístico a un espacio físico de percepciones y de representaciones icónicas y categoriales para quedar anclado, lo cual es para (Harnad, 1990) una salida necesaria de un regreso infinito de símbolos lingüísticos que remiten \u003Cem>solo \u003C\u002Fem>a otros símbolos lingüísticos, nunca fuera del sistema de la lengua.\u003C\u002Fp>\n\u003Ch2>\u003Ca id=\"post-965-_yni9wq403zva\">\u003C\u002Fa>Redes de significado dispersas y densas\u003C\u002Fh2>\n\u003Cp>Volviendo a nuestro concepto de redes de significado, ¿cómo podemos comprender mejor qué significados son \u003Cem>profundos\u003C\u002Fem> o \u003Cem>densos\u003C\u002Fem> y cuáles son \u003Cem>superficiales o dispersos\u003C\u002Fem>?\u003C\u002Fp>\n\u003Cp>Con la teoría del anclaje de los símbolos de (Harnad, 1990), creo que podemos afirmar que mis descripciones de la red de significado que representa el significado de la palabra «madre», tal como yo la uso, son un caso de \u003Cem>significado anclado por excelencia\u003C\u002Fem>.\u003C\u002Fp>\n\u003Cp>Imaginemos ahora que nunca tuve madre. De hecho, nunca he leído nada sobre las madres, salvo la información de que una madre es un ser humano de sexo femenino que tiene al menos un hijo. Imaginemos además que tengo una comprensión anclada de los símbolos «humano», «mujer» e «hijo». ¿En qué se diferencia una comprensión tan superficial de «madre» de mi comprensión personal y más profunda?\u003C\u002Fp>\n\u003Cp>En el primer caso, la red de significado sería más bien dispersa. Constaría potencialmente de solo tres símbolos lingüísticos. En el segundo ejemplo, el esquema gráfico del significado de «madre» tal como yo la uso sería una red densa de datos derivados de la percepción, de numerosos símbolos lingüísticos anclados y quizá también de símbolos no anclados como «cielo» o «Dios», con los que, a efectos del argumento, ni siquiera en teoría puedo tener relación experiencial alguna, y todos los significados directos vinculados a estas dos palabras son símbolos lingüísticos. Algunos de ellos pueden estar anclados en niveles inferiores.\u003C\u002Fp>\n\u003Cp>Como dijimos, podemos tener aristas \u003Cem>ponderadas\u003C\u002Fem> (elementos de significado) de la red de significado conectadas a un nodo (palabra\u002Fsímbolo), tal como permite la teoría de grafos estándar en matemáticas. La densidad y la dispersión de las redes de significado no se calcularían únicamente por el número de elementos de significado, sino que habría que tener en cuenta el peso con que participan los distintos elementos de significado en la constitución del significado global.\u003C\u002Fp>\n\u003Cp>Modelar el significado como redes implica también que el significado no es un valor binario. Hacia el extremo izquierdo del espectro, el significado es cada vez más disperso. Hacia el otro extremo, el significado va ganando densidad.\u003C\u002Fp>\n\u003Ch2>\u003Ca id=\"post-965-_ovq933hufu4w\">\u003C\u002Fa>Coherencia y azar en los LLM\u003C\u002Fh2>\n\u003Cp>Antes dijimos que (Bender et al., 2021) afirman que\u003C\u002Fp>\n\u003Cp>2) los LLM producen salidas al azar\u003C\u002Fp>\n\u003Cp>3) la coherencia está en los ojos del observador\u003C\u002Fp>\n\u003Cp>Las afirmaciones 2) y 3) son en realidad lógicamente interdependientes. Si los LLM producen salidas al azar, toda la coherencia y el significado que haya en ellas deben deberse a la pura casualidad, o bien ser reconstruidos por el sistema externo que interpreta la salida de los LLM. Ese sistema pueden ser, por ejemplo, los seres humanos.\u003C\u002Fp>\n\u003Cp>Los LLM son máquinas de predicción de símbolos. Y su éxito en la predicción estadística y en el reconocimiento de patrones depende del tamaño del corpus de datos, aportado por los seres humanos. El uso de la estadística y la predicción no hace que los LLM sean azarosos\u003Csup>\u003Csup>\u003Ca id=\"post-965-footnote-ref-4\" href=\"#post-965-footnote-4\">[5]\u003C\u002Fa>\u003C\u002Fsup>\u003C\u002Fsup>.\u003C\u002Fp>\n\u003Cp>A menos que nos preocupe que los propios datos sean azarosos e incoherentes. Pero eso no es lo que sostienen (Bender et al., 2021). Digamos lo que digamos sobre la calidad del discurso humano, sobre todo del que procede de fuentes en línea, si los datos que usan los LLM se derivan del discurso de hablantes nativos, la coherencia no está en los ojos del observador, sino que está objetivamente incrustada en el corpus de datos con el que trabajan los LLM, precisamente porque la coherencia la crean inicialmente los propios seres humanos. Lo que hacen los LLM, según me parece, es aplicar la estadística y la predicción al corpus de datos, que son compresiones lingüísticas de todo tipo de redes de significado dispersas y densas creadas por los propios seres humanos. Los LLM pueden acceder a las redes de significado aprovechando el hecho de que \u003Cem>todos los significados anclados \u003C\u002Fem>o \u003Cem>todas las redes de significado\u003C\u002Fem> pueden hacerse explícitos mediante una transformación en formas puramente simbólicas, es decir, en una lengua. El lenguaje es una ventana, o una interfaz, hacia las redes de significado humanas y hacia todos los significados anclados en un mundo físico exterior.\u003C\u002Fp>\n\u003Ch2>\u003Ca id=\"post-965-_yg0v14k93zld\">\u003C\u002Fa>El lenguaje como interfaz hacia las redes de significado humanas\u003C\u002Fh2>\n\u003Cp>Sabemos que los LLM funcionan prediciendo estadísticamente la mejor palabra siguiente que encaje con las cadenas de texto generadas previamente y con su contexto. Si con «estocástico», en la acusación de «loro estocástico», queremos decir simplemente que los LLM usan la estadística para generar sus respuestas, eso no puede considerarse por sí solo un argumento contra los LLM, sobre todo cuando los cerebros humanos sin duda emplean sus propios procesos de predicción estadística.\u003Csup>\u003Csup>\u003Ca id=\"post-965-footnote-ref-5\" href=\"#post-965-footnote-5\">[6]\u003C\u002Fa>\u003C\u002Fsup>\u003C\u002Fsup> Entonces, ¿lo que queda es criticar la idea de que los LLM son meros «loros»? Los loros que pueden hablar imitan con bastante fidelidad los sonidos del habla humana, pero no pueden ir más allá de los datos que han oído y, además, esos sonidos no tienen ningún significado para los propios loros. Los LLM van claramente más allá de los datos y generan oraciones nuevas. Podemos descartar, pues, la primera parte de la acusación de ser un loro. ¿Y qué hay de la parte de la acusación que atañe al significado?\u003C\u002Fp>\n\u003Cp>Los LLM no tienen cuerpo, por ahora. El significado de sus palabras y enunciados no puede estar \u003Cem>anclado\u003C\u002Fem> en el mundo físico. Esto por sí mismo, como hemos argumentado antes, no constituye un problema que conduzca a la falta de significado, si las palabras que emiten los LLM están ancladas en algún nivel en el mundo físico que los seres humanos habitan y experimentan. ¿Lo están? Quiero argumentar que las palabras producidas por los LLM están efectivamente ancladas, aunque sea a través de mediadores simbólicos que funcionan como una interfaz hacia las redes de significado humanas.\u003C\u002Fp>\n\u003Cp>Imaginemos que cada ser humano tiene una red de significado para cada palabra. Hemos admitido que las redes de significado no son del todo privadas, sino que se comparten en parte dentro de la comunidad lingüística. Cuando hablamos y escribimos y queremos «transmitir el significado», comprimimos nuestras complejas y desordenadas redes de significado en una lengua. Por su propio diseño, la lengua comprime, vuelve discretas las cosas complejas y las separa en unidades aprehensibles. Puedo retener en mi mente la experiencia abrumadora de un funeral. Sin embargo, cuando escribí sobre el funeral en mi diario, me vi obligado a reducir la experiencia a palabras y oraciones. De hecho, todas las fuentes escritas, desde los periódicos hasta la poesía y las novelas, son artefactos en los que usamos la tecnología cognitiva de la escritura para hacer que lo aparentemente indescriptible se preste a la descripción lingüística.\u003C\u002Fp>\n\u003Cp>Tras la compresión que conlleva el uso de una lengua, transformamos todos los elementos de significado que no son lingüísticos en alguna forma de cadenas lingüísticas. Estas cadenas estarán ancladas porque su significado remite en última instancia a otras representaciones simbólicas que están ancladas, o directamente a representaciones icónicas y categoriales. Cuanto más se solapen las redes de significado de algunas palabras, más rápido llegarán a los LLM los rasgos invariantes del significado de la palabra, porque son máquinas estadísticas tan potentes que captan regularidades y patrones en los datos que ni siquiera los seres humanos advierten.\u003C\u002Fp>\n\u003Cp>Una vez que los significados anclados procedentes de la experiencia física humana en el mundo se han comprimido en símbolos lingüísticos, que pueden constituir o no redes de significado de otras palabras, los LLM pueden acceder a este anclaje de las palabras comprimido lingüísticamente.\u003C\u002Fp>\n\u003Cp>De forma indirecta y parasitando el anclaje humano del significado, los LLM usan el lenguaje como una \u003Cem>interfaz\u003C\u002Fem> \u003Cem>para\u003C\u002Fem> \u003Cem>acceder\u003C\u002Fem> a nuestras redes de significado, mediadas por toda la producción lingüística que nosotros, como humanidad, hemos generado y que se ha usado como datos de entrada de los que aprenden los LLM. Pero usar una interfaz tiene un precio que hay que pagar. Este acto de usar una interfaz —anteriormente lo llamé \u003Cem>interfacialidad\u003Csup>\u003Csup>\u003Ca id=\"post-965-footnote-ref-6\" href=\"#post-965-footnote-6\">[7]\u003C\u002Fa>\u003C\u002Fsup>\u003C\u002Fsup> —\u003C\u002Fem> es una compresión con pérdida, porque la interfaz inevitablemente simplifica y reduce. Pondré un ejemplo. Mis sentimientos, recuerdos e ideas que constituyen el significado de la palabra «madre» y que guardo en mi mente no tienen formas discretas concretas. Son, por usar un término de la informática, una señal continua, precisamente porque mi realidad experiencial (fenoménica), que coconstituye la red de memoria (junto con las representaciones simbólicas), tampoco es discreta. Pero al usar una lengua como interfaz hacia la red de significado de la palabra «madre», reduzco las señales continuas a las formas discretas de las palabras para crear representaciones simbólicas discretas. Inevitablemente se pierde mucho detalle, porque hacer una representación lingüística de una realidad fenoménica es un proceso con pérdida.\u003C\u002Fp>\n\u003Cp>¿Cuánta pérdida hay? Depende de la densidad de una representación lingüística y de lo profundamente que acceda a la totalidad de las redes de significado de cada palabra y de elementos de orden superior, como una oración o un párrafo. ¿Cuáles son los significados de estos elementos de orden superior? Tal como yo lo veo, el significado se constituye mediante un proceso de fusión de las redes de significado de cada palabra y de \u003Cem>recorrido\u003C\u002Fem> de las redes de significado fusionadas, en el que las reglas válidas de dicho recorrido se rigen por las reglas sintácticas de la lengua dada. La pérdida de una representación lingüística sería distinta en una persona corriente y, digamos, en un premio Nobel de Literatura. Sea cual sea el estatus ontológico de la realidad experiencial, un escritor o un orador magistral puede usar su destreza en el uso de la lengua para acercar la realidad fenoménica, continua e irreductible, a algo que nos resulte aprehensible y significativo.\u003C\u002Fp>\n\u003Ch2>\u003Ca id=\"post-965-_osctxq6frn4d\">\u003C\u002Fa>Los LLM tienen redes de significado densas y modalmente superficiales\u003C\u002Fh2>\n\u003Cp>Para nosotros, los seres humanos, es normal enriquecer nuestras propias redes de significado mediante una polinización cruzada que se produce cuando interactuamos únicamente con las representaciones lingüísticas de otros, como la literatura, y que hace más densas las redes de significado, pese a que no tenemos referencias experienciales directas (representaciones icónicas, categoriales) de lo que leemos en las grandes novelas, en la poesía o en la filosofía. La mayoría de las personas que leen sobre neurociencia no tienen representaciones icónicas ni categoriales de términos como «lóbulos frontales», «codificación predictiva» o «células gliales». Y, sin embargo, hablamos de ello con gusto. Una persona cualquiera que habla de neurociencia tiene una red de significado muy dispersa sobre el tema y, muy probablemente, pocas representaciones simbólicas ancladas en una realidad experiencial, si es que tiene alguna. Es de suponer que la mayoría, si no la totalidad, de los elementos de significado de sus redes de significado relacionados con el tema serían representaciones simbólicas\u002Flingüísticas no ancladas, y solo unos pocos ejemplos de películas, fotos o entrevistas con pacientes con lesiones cerebrales contribuirían a constituir lo que el tema significa para ella. Si esta estudiante de neurociencia nos contara algo sobre los cerebros, le faltaría el significado anclado en la realidad experiencial de ver y operar un cerebro, le faltarían los vínculos emocionales con los pacientes, etc., pero sería capaz de recitar las últimas teorías, los conceptos, libros enteros sobre el tema. Nuestra neurocientífica sería una teórica experta en la materia: analizaría conceptos, encontraría semejanzas y diferencias, podría ofrecer críticas basadas en la coherencia con el cuerpo de conocimiento existente e incluso podría predecir nuevas teorías al ver patrones y conexiones en el cuerpo de conocimiento que nadie más podría ver. Nuestra teórica de la neurociencia podría incluso aprobar la carrera de Medicina, pero pensaríamos que algo falta en su comprensión del tema.\u003C\u002Fp>\n\u003Cp>Los LLM son un caso extremo de nuestra teórica de la neurociencia en lo que respecta a las redes de significado. A partir de los datos lingüísticos coherentes y estructurados que los seres humanos hemos producido a lo largo de la historia, los LLM reconstruyen patrones que existen en nuestras redes de significado y encuentran con facilidad otros nuevos, algo que ningún ser humano podría hacer. A través del lenguaje, los LLM disponen de una \u003Cem>interfaz\u003C\u002Fem> accesible hacia nuestra representación simbólica discreta de la realidad fenoménica, continua e irreductible, lo cual es inevitablemente un proceso con pérdida; pero, de nuevo, la mera cantidad de datos lingüísticos puede arrojar más luz sobre la realidad existencial de lo que cualquier persona podría esperar. Cualquier modificación de las redes de significado de los LLM consiste únicamente en añadir, eliminar o modificar representaciones simbólicas. Así, los LLM tienen redes de significado extremadamente densas, con una cantidad inimaginable de elementos de significado ponderados. Pero lo que les falta, de manera similar a nuestra neurocientífica teórica, es diversidad en la modalidad de esos elementos de significado. La mayoría de los elementos de significado de las redes de significado de la neurocientífica teórica son representaciones simbólicas. Los LLM, en cambio, son el límite extremo de estas redes de significado «modalmente superficiales», en las que solo una de las modalidades —la representación simbólica— puede usarse para codificar los elementos de significado.\u003C\u002Fp>\n\u003Ch2>\u003Ca id=\"post-965-_xtrzflbprc93\">\u003C\u002Fa>Discusión a modo de resumen\u003C\u002Fh2>\n\u003Cp>Nunca nos habíamos encontrado con una entidad capaz de citar, analizar y sintetizar sin esfuerzo la historia de la realidad experiencial humana mediada por la compresión con pérdida de las representaciones lingüísticas. Responder a si los LLM pueden alcanzar una inteligencia de tipo humano depende, por supuesto, de lo que entendamos por «humano». Debido a nuestra tendencia social a privilegiar los procesos cognitivos e intelectuales, siendo la dotación lingüística una capacidad marcadamente humana, las capacidades lingüísticas ocupan un lugar destacado en la lista de lo que nos separa del resto del reino animal. En ese sentido, los LLM nos han superado. Ningún ser humano será nunca capaz de abarcar, analizar, sintetizar y recorrer las redes de significado construidas a partir de todo el corpus del conocimiento y la experiencia humanos. Pese a que los LLM presentan redes de significado cuantitativamente densas pero modalmente superficiales, el significado de la salida que generan no es ni estocástico ni repetitivo. Por esa razón, propongo que rechacemos la afirmación actual de que los LLM son loros estocásticos. Al contrario, las redes de significado latentes en el corpus lingüístico e incrustadas en las redes de alta dimensionalidad de los LLM tienen un sólido linaje, basado en símbolos anclados que remiten a la realidad experiencial humana. ¿Y qué, si los propios LLM no la han vivido? Los seres humanos, con los teóricos y los filósofos a la cabeza, usamos sin reparos palabras\u002Frepresentaciones simbólicas cuya red de significado consiste solo en otras palabras y conceptos representados lingüísticamente, porque no tenemos otra experiencia de ellas que otras palabras y conceptos.\u003C\u002Fp>\n\u003Cp>La densidad de las redes de significado incrustadas en los LLM es muy superior a lo que pueden abarcar nuestros cerebros. ¿Y qué, si las redes de significado están implementadas en silicio y no en carbono?\u003C\u002Fp>\n\u003Ch2>\u003Ca id=\"post-965-_za3x0518451d\">\u003C\u002Fa>Referencias\u003C\u002Fh2>\n\u003Cp>Bell, D. (1999). \u003Cem>The coming of post-industrial society: a venture in social forecasting\u003C\u002Fem> (Special anniversary ed. \u002F). Basic Books.\u003C\u002Fp>\n\u003Cp>Bender, E. M., & Koller, A. (2020). Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data. En \u003Cem>Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics\u003C\u002Fem>. Association for Computational Linguistics. https:\u002F\u002Fdoi.org\u002F10.18653\u002Fv1\u002F2020.acl-main.463\u003C\u002Fp>\n\u003Cp>Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots, 610-623. https:\u002F\u002Fdoi.org\u002F10.1145\u002F3442188.3445922\u003C\u002Fp>\n\u003Cp>Castells, M., & Cardoso, G. (2006). \u003Cem>The network society: from knowledge to policy\u003C\u002Fem>. Johns Hopkins Center for Transatlantic Relations.\u003C\u002Fp>\n\u003Cp>Clark, A. (2013a). Are we predictive engines? Perils, prospects, and the puzzle of the porous perceiver. \u003Cem>Behavioral and Brain Sciences\u003C\u002Fem>, \u003Cem>36\u003C\u002Fem>(3), 233-253. https:\u002F\u002Fdoi.org\u002F10.1017\u002Fs0140525x12002440\u003C\u002Fp>\n\u003Cp>Clark, A. (2013b). Whatever next? Predictive brains, situated agents, and the future of cognitive science. \u003Cem>Behavioral and Brain Sciences\u003C\u002Fem>, \u003Cem>36\u003C\u002Fem>(3), 181-204. https:\u002F\u002Fdoi.org\u002F10.1017\u002Fs0140525x12000477\u003C\u002Fp>\n\u003Cp>Dijk, J. van. (2006). \u003Cem>The network society: social aspects of new media\u003C\u002Fem> (2.ª ed.). Sage Publications.\u003C\u002Fp>\n\u003Cp>Ferenc, J. (2018). \u003Cem>Postkognitivistické HCI: Vidět interface jako sociotechnický vztah\u003C\u002Fem> [Tesis de máster]. Univerzita Karlova.\u003C\u002Fp>\n\u003Cp>Harnad, S. (1990). The symbol grounding problem. \u003Cem>Physica D: Nonlinear Phenomena\u003C\u002Fem>, \u003Cem>42\u003C\u002Fem>(1-3), 335-346. \u003Ca href=\"https:\u002F\u002Fdoi.org\u002F10.1016\u002F0167-2789(90)90087-6\">https:\u002F\u002Fdoi.org\u002F10.1016\u002F0167-2789(90)90087-6\u003C\u002Fa>\u003C\u002Fp>\n\u003Cp>Searle, J. R. (1980). Minds, brains, and programs. \u003Cem>Behavioral and Brain Sciences\u003C\u002Fem>, \u003Cem>3\u003C\u002Fem>(3), 417-424. https:\u002F\u002Fdoi.org\u002F10.1017\u002FS0140525X00005756\u003C\u002Fp>\n\u003Cp>Webster, F. (2006). \u003Cem>Theories of the information society\u003C\u002Fem> (3.ª ed.). Routledge.\u003C\u002Fp>\n\u003Cp>Wittgenstein, L. (2009). \u003Cem>Philosophical investigations\u003C\u002Fem> (4.ª ed. rev.). Wiley-Blackwell.\u003C\u002Fp>\n\u003Col>\n\u003Cli id=\"post-965-footnote-0\">Bell, 1999; Castells, 2006; Dijk, 2006; Webster, 2006 \u003Ca href=\"#post-965-footnote-ref-0\">↑\u003C\u002Fa>\u003C\u002Fli>\n\u003Cli id=\"post-965-footnote-1\">Wittgenstein, 2009 \u003Ca href=\"#post-965-footnote-ref-1\">↑\u003C\u002Fa>\u003C\u002Fli>\n\u003Cli id=\"post-965-footnote-2\">Searle, 1980 \u003Ca href=\"#post-965-footnote-ref-2\">↑\u003C\u002Fa>\u003C\u002Fli>\n\u003Cli id=\"post-965-footnote-3\">ibíd., Searle, 1980 \u003Ca href=\"#post-965-footnote-ref-3\">↑\u003C\u002Fa>\u003C\u002Fli>\n\u003Cli id=\"post-965-footnote-4\">Si sé que eres una mujer de Estados Unidos y que tu nombre empieza por las letras «JAN», hay bastantes probabilidades de que la cuarta letra de tu nombre sea «E». No puedo estar del todo seguro, pero la respuesta se deriva de un análisis estadístico del conjunto de todos los nombres femeninos estadounidenses y de la frecuencia de las letras en esos nombres. No es un proceso azaroso para llegar a la respuesta. De manera similar, los LLM usan la estadística para llegar a su respuesta. No veo por qué el uso de métodos estadísticos habría de constituir un proceso azaroso de trabajo con los datos. \u003Ca href=\"#post-965-footnote-ref-4\">↑\u003C\u002Fa>\u003C\u002Fli>\n\u003Cli id=\"post-965-footnote-5\">Clark, 2013a; Clark, 2013b \u003Ca href=\"#post-965-footnote-ref-5\">↑\u003C\u002Fa>\u003C\u002Fli>\n\u003Cli id=\"post-965-footnote-6\">Ferenc, 2018 \u003Ca href=\"#post-965-footnote-ref-6\">↑\u003C\u002Fa>\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Cp> \u003C\u002Fp>",1790905688796]