Sonntag, 28. November 2010

Testblödsinn

Ich lese und schreibe jetzt seit über 6 Jahren im Hifi-Forum, und ich habe den Eindruck daß sich in dieser Zeit die Bereitschaft vieler Diskutanten von einem ohnehin niedrigen Level noch weiter verringert hat, sich bei einem Test zu überlegen wie man den möglichst zielführend zu gestalten. Es wird entweder von völlig sinnfreien Tests berichtet, oder es werden solche sinnfreien Tests gefordert oder vorgeschlagen. Sämtliche Hinweise darauf was es für einen fairen und aussagekräftigen Test zu beachten gilt werden offenbar komplett ignoriert. Was dabei heraus kommt spricht oft genug schon den einfachsten Regeln der Logik und des Verstandes Hohn.

Wohlgemerkt, ich rede von "aussagekräftig", und nicht von "Beweis" oder von "wissenschaftlich"! Wenn man die Latte zu hoch legt wird sie jeder reißen. Ein Test kann auch Sinn haben wenn man keinen Beweis daraus machen kann oder wenn seine Durchführung wissenschaftlichen Prinzipien nicht voll genügt. Das Hirn sollte man aber schon einschalten, und nicht einfach drauflos testen und dann auch noch erwarten daß ein Leser daraus abgeleitete hanebüchene Schlußfolgerungen auch noch akzeptiert oder gar "respektiert".

Ein Beispiel für das was ich meine würde der Test von Dr. Kaletha in Sachen CD-Rohlingsklang bieten, der schon den Anlaß geboten hat für die jüngste Auseinandersetzung um das "Galileo-Gambit". Ich will das aber gar nicht weiter vertiefen, sonst heißt es wieder ich wäre nur an persönlichen Angriffen auf den armen Mann interessiert. Es haben auch schon Andere reichlich argumentiert warum dieser Test völlig sinnlos war und ungeeignet die vorgebliche Frage zu beantworten.

Ich nehme daher ein anderes Beispiel (manche werden sagen ein anderes Opfer). Es ist sowieso kein Problem dafür Beispiele zu finden. Mein Aufhänger ist dieser Beitrag im Hifi-Forum, mit dem Janus525 in Form eines "Testvorschlags" das Thema Kabelklang in "meinen" Thread eingeführt hat als es dort gerade um etwas ganz Anderes ging.

Ein bißchen Background zu Janus525 is aber zuerst ganz hilfreich. Im Hifi-Forum ist er zuerst aufgetaucht mit diesem Beitrag vom März letzten Jahres, mit dem er einen fast 6 Jahre alten Thread wieder zum Leben erweckte. Wie man unschwer erkennt ist das ein Beitrag, der das "Guerilla-Marketing" zwischen allen Zeilen hervorschwitzt, und wie man am darauf folgenden Diskussionsverlauf erkennen kann war es auch nötig daß ihn die Moderation darauf aufmerksam machen mußte daß er sich als gewerblich kennzeichnet, was offenbar nicht ohne Widerwillen passierte. Wer sich seine Beiträge Revue passieren läßt wird recht viele finden in denen bestimmte Produkte mehr oder weniger unmotiviert "erwähnt" werden.

So auch in besagtem Testvorschlag von heute vormittag. Der Testvorschlag selbst ist derart unsinnig daß man schon fast gezwungen ist zu vermuten daß es sich um einen Vorwand für eine Produktplatzierung handelt. Weil aber auch ohne so einen Vorwand regelmäßig solche ähnlichen Tests diskutiert werden nehme ich das mal auseinander:
  • Janus525 impliziert mit seinem Vorschlag daß sein "Adressat" so einen ähnlichen Test noch nie gemacht hat. Das ist so üblich wie ignorant. Man kann so oft und deutlich zu erkennen geben wie man will daß man sich mit solchen Fragen auch schon mit eigenen Versuchen beschäftigt hat, es nutzt nichts. Die bloße Tatsache daß man nicht die gleichen Ansichten vertritt wie Janus 525 wertet er de facto als Nachweis daß man solche Versuche nicht gemacht haben kann. Oder wenigstens nicht "richtig" gemacht haben kann. Das ist geradezu lachhaft angesichts der Tatsache daß die ganze Testbeschreibung höchst vage beschrieben wird, mit der einzigen Ausnahme daß das zu verwendende Kabel benannt wird. Die Message ist: Nimm dieses Kabel, alles Andere ist beinahe egal. Wobei im Falle des Mißerfolgs die Hintertür bereits bereitgehalten wird. Vage Testbedingungen mit gleichzeitiger Hintertür von "unpassenden" Anlagen macht den Test schon im Ansatz völlig wertlos, denn sollte er scheitern wäre er leicht abzutun. Janus525 kann so nicht verlieren. Die Karten sind gezinkt. Ein fairer Test muß aber geeignet sein eine Behauptung zu bestätigen oder sie zu widerlegen. Beides muß je nach Ergebnis möglich sein.
  • Die beschriebenen Testmodalitäten sollten schon auch erkennen lassen wie dadurch die wohlbekannten Störfaktoren ausgeschlossen werden, die ein Ergebnis verfälschen können. Zu den wichtigsten Störfaktoren gehören die Voreingenommenheit der beteiligten Personen und weitere psychologisch bedingte Faktoren. Dann bekannte elektrische Wechselwirkungen, wie sie sich hier z.B. durch das Y-Kabel ergeben. Schließlich statistische Effekte die eine Signifikanz suggerieren können wo keine ist. Der Test soll schließlich eine bestimmte Frage klären helfen, und der Test hat keinen Sinn wenn unterschiedlichste Ursachen die gleiche Antwort produzieren können. Im vorliegenden Beispiel wird das so gut wie völlig ignoriert. Es wird suggeriert als wäre das einzig relevante Problem die Voreingenommenheit der Probanden, und als könnte man die in den Griff kriegen wenn man als Personen solche nimmt die nichts mit Hifi zu tun haben. Das ist mehr als naïv.
  • Es wird keinerlei Aussage gemacht wie das Ergebnis auszuwerten ist. Man soll die Reaktionen der Tester einfach veröffentlichen, und den Rest sozusagen der "Community" überlassen. Was nach aller Erfahrung nur dazu führen kann daß sich jeder nach eigenem Gutdünken seine Relevanzkriterien nachträglich zurechtbiegt. Geklärt ist danach überhaupt nichts. Ein sinnvoller Test legt vorher fest welches Ergebnis eine Bestätigung bedeutet, welches eine Widerlegung, und welches ein Unentschieden.
Was darüber hinaus besonders stört ist die anscheinend unvermeidliche vorsorgliche Schmähung wenn man sich auf diesen Blödsinn nicht einläßt. Man muß sich dann vorhalten lassen, man probiere nichts ernsthaft aus, sondern schreibe nur. Dabei ist es genau anders herum: Mit solchen wertlosen Tests ist nichts gewonnen, denn egal wie sie ausgehen würden könnte man das Ergebnis getrost ignorieren.

Es ist auch nicht zu erkennen warum dieser Testvorschlag nun ausgerechnet ein anderes Ergebnis bringen soll wie eine unübersehbare Flut ähnlich dümmlicher Tests, die schon gemacht wurden. Warum soll's dieses Kabel nun ausgerechnet bringen, warum die "Erfahrung" eines Janus525 auch nur einen Pfifferling mehr wert sein als die ähnliche Erfahrung von unzähligen Vorgängern die ihren Glauben auch nicht seriös substanziieren konnten?

Dazu kommt noch daß Janus525 schon seit Beginn seiner Teilnahme in Forumsdiskussionen Gelegenheit genug hatte sich über die Anforderungen an solche Tests zu informieren. Viele der Kriterien könnte er in Diskussionsbeiträgen finden die unmittelbar auf ihn antworten. Daß er daraus nichts gelernt zu haben scheint macht es noch überflüssiger sich mit so einem Testvorschlag zu beschäftigen, denn man hat es offensichtlich mit jemandem zu tun der keinerlei Interesse daran hat etwas über Tests zu lernen, oder auch nur den Standpunkt seiner Diskussionspartner zur Kenntnis zu nehmen.

Solche Tests, egal ob vorgeschlagen oder durchgeführt, sind letzlich reine Beschäftigungstherapien, die verhindern sollen daß sich ein vernünftiger Gedanke durchsetzen kann. Blinder und tauber Aktionismus als Gegengift gegen unerwünschte Einsichten.

"Wie gefällt Dir der Vorschlag...?" fragt Janus525. Meine Antwort wäre: "Schieb ihn Dir meinetwegen in den Hintern!". Hier kann ich's ja schreiben.


Kommentare wie immer in diesem Thread.