Als je ooit naar digitale muziek hebt geluisterd, met name om het even welk verlies van audio-indeling, ben je blootgesteld aan wiskundige kwantisering. Deze digitale signaalverwerking achter de schermen is heel gewoon en meestal een integrale functie van moderne audiosoftware of hardware (bijv. digitaal-naar-analoog converters). Maar kwantisering is niet beperkt tot alleen audio. De term en het gebruik ervan is ook van toepassing op andere velden, zoals natuurkunde of digitale beeldbewerking.
In een opnamestudio nemen microfoons analoge muziekgeluidsgolven op, die vervolgens worden verwerkt tot een digitaal formaat. Het signaal kan worden bemonsterd op 44.100 Hz en gekwantiseerd met een 8-, 16- of 24-bits diepte (enzovoort). Hogere bitdiepten bieden meer gegevens, wat een meer nauwkeurige conversie en reproductie van de originele golfvorm mogelijk maakt.
Fundamenteel is kwantisering een complex proces van afronding dat een zekere mate van onnauwkeurigheid met zich meebrengt. Computers werken op enen en nullen. Daarom wordt conversie van analoog naar digitaal beschouwd als een nauwkeurige benadering en niet als een exacte kopie. Als het op muziek aankomt, moet niet alleen het gekwantiseerde signaal de juiste opeenvolging en amplitude van waarden behouden, maar de timing moet ook nauwkeurig zijn. Het proces moet ervoor zorgen dat het muzikale ritme wordt gehandhaafd, waarbij tonen gelijkmatig worden verdeeld en op dezelfde beats (of fracties daarvan) worden ingesteld. Anders klinkt de audio misschien vreemd of is hij vreemd voor luisteraars.
Dit concept van kwantisering kan visueel worden waargenomen met een beeldbewerkingsprogramma, zoals Photoshop. Wanneer een grote afbeelding kleiner wordt, is er pixelinformatie verloren vanwege het wiskundige proces dat de taak verwerkt. De software voert de berekeningen en afronding uit om ongewenste pixels te verwijderen terwijl de algehele integriteit, verhouding en context van de afbeelding behouden blijft - beperkte proporties zijn net zo belangrijk voor foto's als ritme voor muziek. Bij het inzoomen en vergelijken van de re-sized versie van de foto met het origineel lijken randen en objecten enigszins grof of gekarteld te zijn. Dit visuele aspect van lossy-compressie heeft eveneens betrekking op soorten digitale audiobestanden. Meer gegevens en / of minder compressie resulteert in een hogere algehele kwaliteit.
