Przyzwyczailiśmy się do tego, że w komputerach, smartfonach i tabletach dostępne są nie tylko liczby i teksty, ale także różne sygnały (dźwięki, obrazy, animacje...). Nie zastanawiamy się nad tym, że to, co pamięta i przetwarza komputer, to tylko serie liczb (w dodatku binarnych, ale tym nie będziemy się teraz zajmowali), a sygnały to przecież coś innego. Żeby można było operować w komputerze sygnałami, trzeba było wymyślić, jak je tam umieścić.
Sygnał analogowy
Najpierw zastanówmy się, czym właściwie jest sygnał? Pojęcie to jest bardzo obszerne. Sygnałem jest każdy dźwięk (np. mowa, muzyka, szum wiatru, grzmot wodospadu), obraz (stacjonarny albo kadr z filmu), zapach i smak; wyniki różnych pomiarów (napięcie elektryczne, temperatura, ciśnienie). Dotyczy to nie tylko nauki i techniki: w postaci sygnałów formujemy także dobra kultury (malarstwo, rzeźba, muzyka). Mógłbym długo wyliczać!
Czytaj więcej
W drugiej połowie XX w. matematycy z Wrocławia i Warszawy stworzyli teoretyczną bazę dla polskiej informatyki, a w latach 60. powstawały pierwsze k...
Te wszystkie sygnały oryginalnie mają postać analogową. To określenie oznacza, że sygnał możemy zarejestrować (naszymi zmysłami albo jakąś aparaturą) w dowolnej chwili i w dowolnym punkcie przestrzeni. Jeśli – przykładowo – rozważamy dźwięk, to ma on konkretną formę w każdej chwili czasowej. Gdy rozważamy wysokość i głośność tego dźwięku np. pomiędzy pierwszą a drugą sekundą jakiejś frazy muzycznej, to również możemy sprawdzić, jakie było jego brzmienie. Podobnie jest z obrazami. Gdy oglądamy obraz w pewnym miejscu (oceniamy kolor i jasność jakiegoś punktu), to możemy przenieść wzrok o dowolnie mały odcinek w prawo, w lewo, w górę, w dół – i wszędzie tam są jakieś (z reguły już troszkę inne) jasność i kolor. Tu także nie ma żadnych ograniczeń.
Realny świat dostarcza właśnie takich sygnałów – ciągłych w czasie i w przestrzeni. Natomiast świat komputerów tego nie przyjmuje!
Sygnał cyfrowy
W komputerze każda informacja musi być zapisana w innym miejscu pamięci. Dla dźwięku będzie to cyfrowo zapisana wartość ciśnienia akustycznego docierającego do mikrofonu w określonej chwili, dla obrazu – ładunek elektryczny wywołany przez światło w konkretnym pikselu matrycy CCD kamery cyfrowej, dla innych sygnałów będzie to próbka pozyskana w określonych warunkach w określonym miejscu i czasie. Za każdym razem jest to jedna wartość, po której zapisywana jest następna wartość, potem kolejna, a potem dalsza... Taki zapis określamy jako dyskretny.
Czytaj więcej
Specjalistyczne interfejsy i programy komputerowe wykreowały dzisiejszą muzykę elektroakustyczną opartą na syntetycznie wytworzonych dźwiękach lub...
Słowo „dyskretny” nie jest tu rozumiane jako „taki, który dochowuje tajemnicy” albo „nierzucający się w oczy, delikatny” jak tłumaczy to słownik PWN. W technice „dyskretny” oznacza: nieciągły, znany tylko w niektórych chwilach czasu albo tylko w niektórych punktach przestrzeni. Taką właśnie cechę ma sygnał cyfrowy. Ale żeby taki sygnał uzyskać z sygnału analogowego, trzeba przeprowadzić proces jego próbkowania. To znaczy odczytać i zapamiętać wartość sygnału w określonych chwilach czasu albo w określonych punktach przestrzeni. Taka odczytana i zapamiętana wartość sygnału to próbka. Cały sygnał zamieniamy na pewną liczbę takich próbek. Zwykle bywa ich dużo, jednak zawsze jest to skończona ilość.
Pojawia się jednak niebanalny problem: jak rozmieścić te próbki, żeby dźwięk, obraz czy dowolny inny sygnał cyfrowy dostarczał tyle samo informacji, co oryginalny sygnał analogowy? Jeśli użyjemy zbyt małej liczby próbek, to nie dowiemy się wszystkiego o oryginalnym analogowym sygnale. Pewne jego cechy będą ukryte lub wręcz przekłamane. Jednak liczbą próbek nie trzeba też szafować, bo każda próbka kosztuje: musimy znaleźć dla niej miejsce w pamięci komputera, gdy sygnał rejestrujemy. Musimy zapłacić za czas potrzebny do jej przesłania, jeśli sygnał transmitujemy na odległość. Nadmiar próbek jest nieekonomiczny!
Czytaj więcej
Pracują w fabrykach, udzielają psychologicznego wsparcia, ścigają się na bieżni, a nawet romansują. Obdarzone sztuczną inteligencją humanoidalne ro...
Do zalezienia odpowiedzi na pytanie, jak gęsto próbkować analogowy sygnał, żeby dostać jego dobre cyfrowe odwzorowanie, przyczyniło się kilku badaczy. Ich sylwetki i dokonania teraz poznamy.
Edmund Taylor Whittaker
Pierwszym, który analizował możliwości zastąpienia sygnału analogowego odpowiednim sygnałem cyfrowym był Edmund Taylor Whittaker (1873–1956), który w latach 1906–1911 był królewskim astronomem Irlandii w Trinity College w Dublinie, a potem kierował Katedrą Matematyki na Uniwersytecie w Edynburgu. Odkrył podstawowe prawa zamiany sygnału analogowego na sygnał dyskretny (określenie „cyfrowy” jeszcze wtedy nie istniało, bo nikt nawet nie myślał o komputerach), badając teorię interpolacji w 1915 r. To osiągnięcie Whittakera jest stosunkowo mało znane, bo znacząco wyprzedzało potrzeby współczesnej mu nauki, ale gdy wprowadzono systemy cyfrowe i okazało się, że problem próbkowania sygnałów jest ważny, przypomniano także i to osiągnięcie.
Nawiasem mówiąc, osiągnięć naukowych miał Whittaker wiele, m.in. odkrył ogólne rozwiązanie równania Laplace’a, dlatego Szkoła Matematyki Uniwersytetu w Edynburgu od czasu jego śmierci (1956) organizuje na jego cześć The Whittaker Colloquium – coroczny wykład oparty na jego pracach.
Czytaj więcej
Komputer jako elektroniczna maszyna potrafi jedynie przetwarzać i przesyłać sygnały, operować na reprezentowanych przez te sygnały ciągach zer i je...
Jednak najbardziej znane wydarzenie związane z aktywnością naukową Whittakera dotyczyło innej dziedziny. Mianowicie zaciekle walczył o to, aby... Einsteina nie uważać za twórcę teorii względności, ponieważ sam miał na ten temat całkiem odrębny pomysł. Nie rozwijam tu tego tematu, bo to nie ma związku z zagadnieniem cyfryzacji sygnałów, natomiast wątek ten pojawił się w pracach rosyjskiego matematyka Kotelnikowa.
Władimir Aleksandrowicz Kotelnikow
Podobnie jak Whittaker, Władimir Aleksandrowicz Kotelnikow (1908–2005) zyskał sławę i uznanie za inne swoje prace (na temat sowieckiej tajnej łączności radiowej i telefonicznej), natomiast problemem próbkowania sygnałów zajmował się niejako przy okazji. Podobnie jak Whittaker, również Kotelnikow za swoje prace naukowe i inżynierskie wielokrotnie został wyróżniony i doceniony. Był członkiem Rosyjskiej Akademii Nauk (potem także jej prezesem), członkiem Rady Starszych Rosyjskiej Akademii Inżynierii, wiceprezesem Międzynarodowej Akademii Astronautyki (sondował radiowo Wenus i Merkurego) i członkiem wielu innych instytucji, w tym także członkiem zagranicznym Polskiej Akademii Nauk. Pełnił ważne funkcje polityczne, m.in. był Przewodniczącym Rady Najwyższej RFSRR i bardzo gorliwym komunistą. Nie o tym jednak chcę tu opowiadać.
Kotelnikow podjął koncepcję Whittakera i w 1933 r. nadał jej ścisłą formę matematyczną, dzięki czemu po raz pierwszy powiązana została wymagana częstotliwość próbkowania sygnału z jego widmem, a dokładniej z wartością tzw. częstotliwości granicznej (Nyquista). To było wielkie osiągnięcie, którego jednak nikt w tamtych czasach nie docenił, bo nie jeszcze komputery.
Czytaj więcej
W poprzednim odcinku tego cyklu felietonów opisałem genialną i tragiczną postać Alana Turinga, wspominając o jego prekursorskich pracach, które zap...
Natomiast gdy problem cyfryzacji sygnałów stał się ważny – za sprawą rozwoju komputerów i z powodu osiągnięć Shannona (o którym opowiem za chwilę) – Związek Radziecki zaczął przywiązywać do tego osiągnięcia Kotelnikowa bardzo dużą wagę. Gdy ja studiowałem elektronikę i podstawy informatyki na AGH w latach 60. XX stulecia, uczono nas, że fundamentem jest właśnie twierdzenie Kotelnikowa. Natomiast w tamtych czasach nie wolno było nawet wspominać nazwiska Shannona. A przecież merytorycznie owo wspominanie było bardzo uzasadnione.
Claude Elwood Shannon
Claude E. Shannon (1916–2001) był człowiekiem zdecydowanie genialnym. W 1937 r., mając 21 lat, uzyskał dyplom magisterski w MIT (najlepszej uczelni technicznej na świecie), prezentując pracę „Symboliczna analiza obwodów przekaźnikowych i przełączających”. W pracy tej powiązał algebrę Boole’a z konstrukcją urządzeń cyfrowych realizujących dowolne funkcje. Na tej idei opiera się projektowanie układów elektronicznych wykorzystywanych w technice cyfrowej (m.in. w komputerach) aż do obecnych czasów. Praca ta została uznana za „najważniejszą pracę magisterską wszech czasów”, a Shannon otrzymał za nią Nagrodę Nobla w 1939 r.
W czasie wojny Shannon pracował nad metodami szyfrowania informacji na potrzeby wojska i w tej dziedzinie także osiągnął znaczące sukcesy, tworząc podstawy standardu szyfrowania danych (DES) oraz zaawansowanego standardu szyfrowania (AES). Jego pomysł opierał się na stwierdzeniu, że niezależnie od tego, jak wymyślną metodę szyfrowania tajnych wiadomości się zastosuje, przeciwnik tę metodę odgadnie i będzie przechwytywał meldunki oraz rozkazy z fatalnym skutkiem dla wojska. Dlatego nie należy ukrywać metody szyfrowania. Niech każdy ją zna! Ale konkretne szyfrowanie konkretnego komunikatu musi się opierać na tajnym kluczu. Tylko upoważniony odbiorca zna ten klucz i tylko on odczyta komunikat. Klucze można zmieniać nawet kilka razy w ciągu godziny, więc przechwytujący komunikaty wrogowie nie są w stanie odczytać zaszyfrowanych komunikatów, a gdy je ewentualnie (wielkim wysiłkiem!) odszyfrują, to są one już nieaktualne.
Czytaj więcej
Możliwość skonstruowania ogólnej sztucznej inteligencji przywołuje ponownie już dawno odesłaną w mrok kruchty i przebitą osinowym kołkiem dyskusję...
Po wojnie Shannon opublikował w 1948 r. pracę „A Mathematical Theory of Communication”, która stała się podstawą rozwoju nowoczesnej teorii informacji. Nie ma tu miejsca, żeby ten wątek rozwijać, ale po raz pierwszy udało się matematycznie (w oparciu o pojęcie entropii) opisać, czym właściwie jest informacja, a także jak ją można mierzyć. Shannon jako pierwszy wprowadził też jednostkę ilości informacji, jaką jest używany do dzisiaj bit.
Znaczący jest także wkład Shannona w rozwój sztucznej inteligencji: zbudował elektromechaniczną mysz, która sama się uczyła znajdować drogę w labiryncie. Wprowadził również podstawy komputerów grających w szachy.
W kontekście tematu tego felietonu trzeba odnotować osiągnięcie, którego sam Shannon nie traktował jako bardzo ważne, ale które postawiło kropkę nad „i” w zagadnieniach przetwarzania sygnałów analogowych do postaci sygnałów cyfrowych. W 1940 r. podał zależność pomiędzy częstością próbkowania sygnału analogowego niezbędną do tego, żeby uzyskać komplet informacji na jego temat, a jednocześnie zająć sygnałem cyfrowym jak najmniej miejsca w pamięci systemu cyfrowego. Zapewne nieświadomie powtórzył przy tym rozumowanie Whittakera i Kotelnikowa, wskazując, że decydujące jest zastosowanie częstotliwości próbkowania odpowiadającej podwojonej częstotliwości granicznej (Nyquista).
Czytaj więcej
Rozwój wiedzy o elektryczności, opisany w kilku poprzednich artykułach, dotyczył wykorzystania najpierw ładunków elektrostatycznych, a potem prądu...
Powyższe omówienie historii torowania drogi do tego, by udostępnić komputerom także różne sygnały analogowe poprzez ich właściwe próbkowanie, pomija cały szereg problemów technicznych, które napotykali inżynierowie chcący rzeczywiście takie próbkowanie w praktyce realizować. Jednak wkład teoretyczny trzech zaprezentowanych wyżej naukowców z pewnością był warunkiem koniecznym, by maszyny cyfrowe mogły się otworzyć na pozyskiwanie, gromadzenie i przetwarzanie sygnałów (w przeróżnych kontekstach), dlatego o tym właśnie dzisiaj Państwu opowiedziałem. O przygodach inżynierów opowiem innym razem.
Autor jest profesorem AGH – Uniwersytetu w Krakowie