Token (de)

From Glottopedia
Jump to navigation Jump to search

Der Begriff token bezeichnet (a) die kleinsten textuellen Einheiten (Wortformen und Interpunktionszeichen) und (b) die konkrete Realisierung von (beliebig komplexen) Einheiten.

Kommentar

In den segmentierten Schriftsystemen, welche zum Beispiel aus lateinischen, kyrillischen oder griechischen Zeichen bestehen, ist ein Token eine Einheit alphanumerischer Zeichen, dessen Anfang und Ende durch ein Leerraumzeichen (white space) oder durch eine Interpunktion gekennzeichnet ist. Einzelne Token sind üblicherweise Worte, Wortformen oder Interpunktionen. Ein Text wird mit Hilfe eines Tokenizers in seine einzelnen Token zerlegt. Diesen Vorgang bezeichnet man als Tokenisierung.

In den nicht-segmentierten Schriftsystemen (wie beispielsweise im Japanischen oder Chinesischen verwendet), existieren weder Leerraumzeichen noch Interpunktion. Für diese Sprachen trifft die oben genannte Definition eines Tokens nicht zu.

Token können in Beziehung zu Types gesetzt werden, wobei ein Token jedes konkrete Vorkommen eines Zeichens bezeichnen, ein Type jedoch gleichlautende Token zu einer Klasse zusammenfügt.

Beispiele

Der Satz John Mack trägt seinen Spitznamen "das Messer" zu Recht. (TA von Mi, 18.12.2002) wird in die folgenden zwölf Token unterteilt:

John
Mack
trägt
seinen
Spitznamen
"
das
Messer
"
zu
Recht
.

Herkunft

englisch token - Zeichen, Merkmal, Spielstein