Die Welt der Strukturwissenschaften

Strukturen der Information

 

Inhalt

Vorwort: Von der Informationstheorie zur Semiotik und Linguistik

 

1. Informationstheorie

2. Semiotik

3. Mathematische Linguistik

4. Die Evolution semantischer Systeme

 

 

 

 

Vorwort: Von der Informationstheorie zur Semiotik und Linguistik

Obwohl die Semiotik auf eine viel längere Tradition als die vergleichsweise junge Wissenschaft der Informationstheorie zurückblicken kann, handelt es sich bei der Informationstheorie dennoch zweifellos um ein Gebiet, welches wichtige mathematische Voraussetzungen für die moderne Semiotik schuf. Die Informationstheorie beschäftigt sich mit der Information, der Entropie, der Datenübertragung, der Datenkompression und der Datenkodierung. Sie stellt weiterhin Theorien zur Kommunikation bereit. Information wird in der Informationstheorie zunächst als Vorhandensein von Unterscheidbarkeiten aufgefasst, über die dann als Daten bzw. Datenpakete mathematische Aussagen getroffen werden können.

Jedoch besitzt die Informationstheorie selbst keinen direkten Bezug zur Semantik, dem Sinn, der Bedeutung oder dem Wissen, um das es bei der Kommunikation und den dabei jeweils ausgetauschten Daten geht. Doch genau dies ist dann das Hauptforschungsgebiet der Semiotik. Das Themengebiet der Semiotik umfasst dabei sämtliche biologische Laute oder kommunikativen Signalformen, also auch beispielsweise die Kommunikation von biologischen Zellen untereinander.

 Das Gebiet der Linguistik ist wiederum etwas enger gefasst und beschäftigt sich vor allem mit den gesprochenen und schriftlichen Kommunikationsformen des Menschen. Als relativ neuer Zweig der Linguistik gilt beispielsweise die "Computerlinguistik", die Programmiersprachen untersucht.

 

 

 

 

1. Informationstheorie

Eine wichtige Gemeinsamkeit aller komplexen Systeme ist die Speicherung und Verarbeitung von Informationen. Information wird durch die Wahrscheinlichkeitsverteilung von Systemzuständen bestimmt.

Dabei lassen sich Komplexitätsgrade unterscheiden, die von zufälliger Normalverteilung der Signale über komplex strukturierte Muster bis zu determinierter Regularität reichen. Komplexe Information ist dabei in einem  Bereich zwischen Zufall und starrer Regularität angesiedelt.1

Information und Entropie

Unsere Welt ist mit Signalen angefüllt, die zwischen Systemen ausgetauscht werden. Statistisch gesehen treffen sie mit einer mehr oder weniger großen Wahrscheinlichkeit ein. Daher können Signale als Elementarereignisse einer Zufallsvariablen aufgefasst werden, bei der ein Sender bestimmte Zeichen oder Symbole produziert.

Besitzt man einen Zeichenvorrat aus N Zeichen lässt sich durch eine Folge von Binärentscheidungen schließlich ein einzelnes Zeichen aussortieren. Die Anzahl der Binärentscheidungen (Abk: Bit), die zu einem Zeichen führen, heißt Informationsgehalt I des Zeichens und wird in Bits gemessen. Beispiel: Bei dem Zeichenvorrat a, b, c, d, entscheidet man sich zunächst binär für c,d und dann für c. Der Informationsgehalt beträgt hier demnach 2.

Doch die Nachrichtentechnik interessiert sich nicht nur für den Informationsgehalt eines einzelnen Zeichens, sondern auch für den mittleren Informationsgehalt aller Zeichen eines Senders. Der Ingenieur und Mathematiker Claude E. Shannon definiert den mittleren Informationsgehalt eines Senders mit N Zeichen als den Erwartungswert ihrer Informationsgehalte. Dazu werden alle Informationsgehalte mit ihren Auftrittswahrscheinlichkeiten gewichtet und aufsummiert.

Der mittlere Informationsgehalt H wird auch Informationsentropie genannt. Damit wird auch den Begriff der Entropie der Thermodynamik angespielt, und gibt anschaulich formuliert den Grad der Unordnung in einem System wieder. Statt Zufall oder Unbestimmtheit spricht man in der Nachrichtentechnik jedoch meist vom Rauschen einer Signalquelle. Beim weißen Rauschen zerfallen damei alle Korrelationen zwischen den einzelnen Signalen, die dann völlig unabhängig voneinander sind. Es gibt dann auch keine Verteilungsmuster mehr.

 

 

 

 

2. Semiotik

Was ist Semiotik?

Die Semiotik ist die Wissenschaft von den Zeichenprozessen in Natur und Kultur. Zeichen übermitteln Informationen in Zeit und Raum. Ohne sie wären Kognition, Kommunikation und kulturelle Bedeutungen nicht möglich.

Das Nachdenken über Zeichen und Zeichenprozesse ist dabei so alt wie die abendländische Philosophie. Auch in anderen Kulturen findet sich früh eine Aufmerksamkeit auf die symbolische Verfasstheit ihrer Existenz. Die semiotischen Fragestellungen sind älter als alle wissenschaftlichen Einzeldisziplinen und daher geeignet ihre Isolierung zu überwinden und ihre Spezialisierungen teilweise aufzuheben. Aber wenn wir von Wissenschaft im heutigen Sinn reden, so ist die Semiotik eine Wissenschaft des 20. Jahrhunderts, die den kulturellen Avantgardebewegungen viele Impulse verdankt. Zeichenproduktion, ihre Interpretation und Interaktionen sind Gegenstand der Semiotik.

Dabei beschäftigt sie sich keineswegs nur mit der menschlichen Kultur, sondern etwa auch mit Wahrnehmungs-, Orientierungs- und Interaktionsverhalten bei Tieren und Pflanzen, sowie mit Signalprozessen im Inneren von Organismen und der Informationsverarbeitung in Maschinen. Die Semiotik als Grundlagen- und Metawissenschaft geht der Frage nach der Zeichenhaftigkeit natürlicher und kultureller (wie z.B. technischer) Phänomene nach. Dabei bietet sie unterschiedlichen Disziplinen und Praxisfeldern ein interdisziplinäres Forum an und stellt eine theoretische Grundlage für den Dialog zwischen den Kulturen bereit.

Semiotisches Dreieck:

Begriff (Inhalt, Sinn, Bedeutung)

Zeichen (Begriff, Symbol)                                                       Gegenstand (Ding, Bezugsobjekt)

 

 

 

 

3. Mathematische Linguistik

Die Mathematische Linguistik ist eine Sammelbezeichnung für die linguistischen Disziplinen und Methoden, die mathematische Verfahren einsetzen. Das geschieht teils, um die Beschreibung von Sprachstrukturen und -entwicklungen zu präzisieren, darüber hinaus aber auch, um die Möglichkeiten der Mathematik zu nutzen, damit mathematische Verfahren für unterschiedliche Zwecke wie die Modellierung sprachlicher Systeme und die Entwicklung und Überprüfung von Gesetzeshypothesen eingesetzt werden können. Nicht zuletzt erfolgt im Rahmen der mathematischen Linguistik die für die automatische Sprachverarbeitung mit Computern notwendige Formalisierung linguistischer Erkenntnisse.2

 

 

 

 

4. Die Evolution semantischer Systeme 3

Komplexe Systeme in Natur und Kultur verwenden Information, um ihre interne Organisation zu entwickeln und ihre funktionalen Mechanismen zu regeln. Ohne die Speicherung, Übertragung und Verarbeitung von Information wäre die Evolution von Komplexität unmöglich. Information hat immer eine semantische Dimension, die in Begriffen wie Bedeutung, Sinn, Referenz und Funktion beschrieben werden kann. Die Erforschung der Semantik muss daher eine entscheidende Rolle in der Analyse komplexer Systeme spielen. Komplexe Systeme sind immer auch semantische Systeme.

Prinzipielle Fragen, die von einer allgemeinen Theorie semantischer Systeme beantwortet werden müssen, lauten:

 

 

 

 

 

Einzelnachweise

1  Mainzer, Klaus: Komplexität; 2008

2  Wikipedia: Mathematische Linguistik online

3 Uni Jena: Projekt Evolution Semantischer Systeme online