Слепой Тест ЦАПов - результаты! - Page 2 - Клуб Soundex: мероприятия/отзывы - SoundEX - Клуб любителей хорошего звука Jump to content

Слепой Тест ЦАПов - результаты!


Recommended Posts

Я там в конце табличку сделал, по переплате.. Если смотреть разницу по баллам, то Fosteх на первом месте будет. 

 

Все победили, но в разных номинациях...  :D

 

  • Like 1
Link to comment
Share on other sites

Не раз сравнивал разные ЦАПы, только пишу об этом немного.

Обычно разница выражается*

а) в тональном балансе

б) в количестве грязи на СЧ и ВЧ**

в) в артикуляции НЧ и мидбаса

г) в глубине сцены*** и наличии/отсутствии в ней неопознанных звуковых объектов

д) в ощущении звука, как более/менее естественного (пересекается с пуктом б).****

е) Могут быть и другие различия.

 

____________________________

*Пункты расставлены в произвольном порядке.

**Грязь есть всегда, идеальных нет.

***Глубина сцены подразумевает  не только звучание "вдали", но и "вблизи", т.е. ближе, чем линия АС. Когда в записи это заложено, разумеется.

****Когда в записи это заложено, разумеется.

Link to comment
Share on other sites

Обычно разница выражается*

б) в количестве грязи на СЧ и ВЧ**

 

По этому пункту отдельные пояснения.

Первое. Ставлю запись с плотным спектром на СЧ и ВЧ, записанную чисто. Нечасто встречаются, надо искать.

Такая запись провоцирует интермодуляционные искажения, хорошо заметные.

 

Второе. Ставлю запись заведомо грязную на СЧ и ВЧ. Наблюдаю, насколько грязнее становится звук при воспроизведении разными девайсами.

Link to comment
Share on other sites

Не обнаружил среди объектов тестирования ни одной популярной и "признанной" в своей категории модели... Т. Е. Получился тест неизвестного в неизвестном :)

По стенду тоже вопросов больше чем ответов: например где Беркли Альфа USB - признанный лидер среди конвертеров? Вы уверены скажем что используемый Вами конвертор не исказил результаты тестов т.е. дал возможность аппаратам "раскрыться"?

Link to comment
Share on other sites

Спасибо, Кэп!

 

Пожалуйста! :)

Очевидное для нас с Вами очевидно не очевидно в оценках девайсов. ;)

 

  • Like 2
Link to comment
Share on other sites

Собственно  я даже не буду комментировать ни процесс, ни на чем, чем и кто (как ) ... :)

 

Я немножко по результату и статье скажу.

 

1 Функция итогового материала - дать рекламную ,с хорошими  фото  описательно-иллюстративную   , не обижающую спонсоров (что крайне важно)  информацию.

 

2 Тест в этом ракурсе чем менее информативен и  ясен, тем лучше. Потому что реклама останется, а  экспертов и их выводы можно и игнорировать.

 

3 Все личные , да еще и подробные ,мнения экспертов в итоговом материале - это зло , если смотреть с такой позиции. 

 

 

Поэтому  все получилось очень удачно для спонсоров и их девайсов, лидеры зыбки, аутсайдеры в рамках погрешности, эксперты неизвестны - а фото и статья есть. :)

  • Like 6
Link to comment
Share on other sites

Поэтому все получилось очень удачно для спонсоров и их девайсов, лидеры зыбки, аутсайдеры в рамках погрешности, эксперты неизвестны - а фото и статья есть. :)

Самое главное - есть широкий охват аудитории профильного форума. Рекламодатели, как известно, оплачивают КОЛИЧЕСТВО визуальных контактов с целевой аудиторией.

Link to comment
Share on other sites

 

На самом деле рекламный характер акции никто не скрывал.

А я и не в претензии. Но кроме прибытка в карман владельцев форума хотелось бы поиметь результат для форумчан. А его нет, вот что обидно. Игра не стоила свеч, сожженных при игре.

Хотя для меня результат есть. Я получил ещё одно доказательство в пользу своего убеждения что объективной разницы между прилично реализованными цифровыми устройствами не существует. Всё, что коллеги называют "различиями" есть результат субъективного психоакустического восприятия.

  • Like 1
Link to comment
Share on other sites

Ваша выборка не проходит проверку на критерий значимости Пирсона. Погрешность измерений существенно больше наблюдаемого разброса результатов. Другими словами, с точки зрения математической статистики, ваш эксперимент НЕ ВЫЯВИЛ РАЗЛИЧИЙ между цапами. А эта наука посильнее Фауста Гёте ))

Всё остальное - игры в песочнице. Чем бы дитя не тешилось, лишь бы не плакало..

 

 

Наконец то здравое мнение. А то когда гуманитарии берут в руки калькулятор, в котором владеют только 4-мя операциями,  а потом из этого делают глубокомысленные выводы, получается смешно. Гора родила мышь.

Link to comment
Share on other sites

Коллеги, не хочется портить ваш праздник, но уважение к истине сильнее.

Посмотрел итоговую таблицу "Результаты прослушивания по USB" с разбросом баллов от 63 до 75 (11%) на 10 экспертах (единица разделить на корень из N = 30%). Вот что имею сказать.

Ваша выборка не проходит проверку на критерий значимости Пирсона. Погрешность измерений существенно больше наблюдаемого различия между результами. Другими словами, с точки зрения математической статистики, ваш эксперимент НЕ ВЫЯВИЛ РАЗЛИЧИЙ между цапами. А эта наука посильнее Фауста Гёте ))

Всё остальное - игры в песочнице. Чем бы дитя не тешилось, лишь бы не плакало..

P.S. Такой результат подтверждает моё собственное первое впечатление от сравнения записей претендентов: http://soundex.ru/index.php?showtopic=42003&page=6#entry1184580

P.P.S. Онлайн-голосование отброшено по каким причинам? Голосовавших кот наплакал? Как вы думаете, почему люди не голосовали? А различий и там практически нет. Посмотрите распределение претендентов на второе место, чудная картина: http://soundex.ru/index.php?showtopic=42003&page=1

 

А как вы оцениваете "погрешность измерений"?

И какую гипотезу проверяли?

 

Link to comment
Share on other sites

  • Moderators

А как вы оцениваете "погрешность измерений"?

 

Никак.

Из той статьи стороннему читателю будет непонятно вообще, как и что оценивалось.

Неизвестны ни критерии, ни оценщики. Обсуждение на форуме и заявленные цели никак не соотносятся с результатом и с ним не связаны.

Много шума, а результата - ноль.

В итоге - рекламная бессмыслица ублажающая спонсоров.

  • Like 2
Link to comment
Share on other sites

Из той статьи стороннему читателю будет непонятно вообще, как и что оценивалось.

Неизвестны ни критерии, ни оценщики.

 

Оценщики дали оценки, т.е. высказали мнение о том, что услышали.

Однако что именно они услышали, действительно стороннему читателю непонятно.

Потому что оценочные критерии нигде не отражены.

 

  • Like 1
Link to comment
Share on other sites

Никак.

Из той статьи стороннему читателю будет непонятно вообще, как и что оценивалось.

Неизвестны ни критерии, ни оценщики. Обсуждение на форуме и заявленные цели никак не соотносятся с результатом и с ним не связаны.

Много шума, а результата - ноль.

В итоге - рекламная бессмыслица ублажающая спонсоров.

 

Вопрос, вообще-то был к Vinnie. Поскольку про критерий Пирсона вспомнил именно он.

 

Оценивалось качество звучания ЦАПов. По методике FSQ.

Описание/обоснование методики есть в интернете. Тестовый диск - тоже.

Для тех, кто хотел поучаствовать в тесте, были два тренинга.

Записи выложены. Различия в них вполне слышны.

Следовательно, если у читателя есть желание разобраться, он, определенно, сможет. Останутся вопросы - мы с радостью ответим.

 

На мой взгляд, главное достоинство FSQ заключается в том, что она переводит бесконечные разговоры о фундаментальности/прозрачности/музыкальности/и т.п, и т.д., к оценке качества звучания конкретных треков, про которые известно практически все: место записи, расположение инструментов/исполнителей, характерные особенности звучания в момент живого исполнения.

Самое интересное, что в автозвуке все это прекрасно работает.

 

Мы просто попытались перенести опыт коллег в аудио домашнее. И волнения записных экспертов наглядно показывают, что результат-таки есть :)

Link to comment
Share on other sites

Краткое описание методики FSQ и протокол тестирования.

Эксперты не знали какое именно устройство звучит, им сообщали только номер.

Номера были присвоены с помощью генератора случайных чисел, и задокументированы до начала тестирования. 

ТЕСТ ДИСК Car Audio FSQ .doc

fsq_home.doc

Link to comment
Share on other sites

  • Moderators

Хотя для меня результат есть. Я получил ещё одно доказательство в пользу своего убеждения что объективной разницы между прилично реализованными цифровыми устройствами не существует. Всё, что коллеги называют "различиями" есть результат субъективного психоакустического восприятия.

Категорически не согласен, пришёл к строго противоположному выводу - объективная разница есть, но осознанно фиксирует её далеко не каждый.

Хотя да, к конкретному тесту есть претензии как по организации, так и по публикации результатов. Главная претензия - не было оценки применимости FSQ пришедшими экспертами.

Если Феликс сертифицированный эксперт, почему не было сравнения с его оценками?

Link to comment
Share on other sites

  • Moderators

 

Оценивалось качество звучания ЦАПов. По методике FSQ.

Описание/обоснование методики есть в интернете. Тестовый диск - тоже.

Для тех, кто хотел поучаствовать в тесте, были два тренинга.

Записи выложены. Различия в них вполне слышны.

Следовательно, если у читателя есть желание разобраться, он, определенно, сможет. Останутся вопросы - мы с радостью ответим.

 

На мой взгляд, главное достоинство FSQ заключается в том, что она переводит бесконечные разговоры о фундаментальности/прозрачности/музыкальности/и т.п, и т.д., к оценке качества звучания конкретных треков, про которые известно практически все: место записи, расположение инструментов/исполнителей, характерные особенности звучания в момент живого исполнения.

Самое интересное, что в автозвуке все это прекрасно работает.

 

Мы просто попытались перенести опыт коллег в аудио домашнее. И волнения записных экспертов наглядно показывают, что результат-таки есть :)

 

Наличие методика - это правильно и хорошо. Даже не будем вдаваться в подробности самой методики.

Но как связана эта методика с тем, что написано в статье?

 

Краткое описание методики FSQ и протокол тестирования.

Эксперты не знали какое именно устройство звучит, им сообщали только номер.

Номера были присвоены с помощью генератора случайных чисел, и задокументированы до начала тестирования. 

 

Когда эксперты уже дали оценки, они узнали, какой конкретно аппарат они слушали?

Кто может подтвердить, что конкретный аппарат получил конкретную оценку? Спустя месяц эксперты по записям сделать этого явно не смогут.

Поэтому статья ни о чем, так как не связана с тем, что на форуме обсуждалось не одну неделю.

Link to comment
Share on other sites

Краткое описание методики FSQ и протокол тестирования.

В файлах нет не слова про обработку результатов статистическими методами, про оценку достоверности. В приложенных файлах нет методики оценки, есть только методика проведения эксперимента. Вся обработка сводится к среднему арифметическому?

  • Like 2
Link to comment
Share on other sites

По моему, по правилам верхняя и нижняя оценки должны отбрасываться.

Нет?

Link to comment
Share on other sites

По моему, по правилам верхняя и нижняя оценки должны отбрасываться.

Нет?

По правилам надо было бы открыть тайну - какой Дак под Каким номером выступал :) . Остальное не имеет значения.

  • Like 1
Link to comment
Share on other sites

По моему, по правилам верхняя и нижняя оценки должны отбрасываться.

Нет?

Не обязательно. Метод экспертных оценок изобрел вовсе не этот "клуб автоакустиков". И существуют определенные методы обработки. Они худо бедно описаны. Например - http://www.aup.ru/books/m157/3_4_2.htm

Цель обработки - как раз прийти к более менее адекватным ВЫВОДАМ.

Среднее арифметическое - не самый умный метод получения выводов. Достаточно одного шутника-экстремиста для среди десятка экспертов, чтобы прилично исказить результат.

Link to comment
Share on other sites

А как вы оцениваете "погрешность измерений"?

И какую гипотезу проверяли?

В принципе я в своем посту всё написал. Мат статистика очень простая наука. Я ничего не придумал, всё строго по учебнику. Но если угодно могу объяснить ещё раз "на пальцах":

1) чтобы присваивать изделиям места (первое-второе-итд) надо в первую очередь найти между ними отличия.

2) чтобы найти отличия надо выбрать и измерить какой-то параметр. Вы выбрали систему баллов и провели 10 измерений этого параметра для каждого изделия. Очень хорошо.

3) погрешность выборки из N измерений равна 1/SQRT(N) = 1/SQRT(10) = 0,3. То есть по каждому изделию исследуемый параметр измерен с точностью +- 30%

4) теперь можно вспомнить критерий "кси квадрат" (Пирсона), а можно просто включить логику и понять что если параметры отличаются максимум на 8 баллов при "воротах допуска" в 44 балла то это означает что отличия выявить не удалось. Потому что они находятся глубоко внутри погрешности.

5) раз отличия не выявлены, то и по местам расставлять изделия бессмысленно.

Вот и всё что я хотел сказать.

Это не значит что отличий точно нет. Возможно, они есть. Но в рамках данного эксперимента их обнаружить не получилось. Чтобы отличия выявить, надо чтобы диапазон 63-75 баллов был бы получен оценками сотни экспертов. Либо десять экспертов оценили бы изделия в диапазоне, например, 50-75 баллов. Тогда можно говорить о статистически достоверном результате.

Про гипотезу не понял. Я про гипотезы ни слова не говорил.

Категорически не согласен, пришёл к строго противоположному выводу - объективная разница есть, но осознанно фиксирует её далеко не каждый

Вы не доверяете экспертам? Они не способны осознанно фиксировать различия, хотя и слышат их? Думаю, Вы пришли к инверсному выводу. У нас каждый эксперт говорит что разница есть и фиксирует её. Но 10 экспертов совместно дают результат "разницы нет". Каждый эксперт слышит по-своему, а коллективный эксперт не замечает различия. Это означает что объективно разницы нет. Остальное - психоакустика, то есть субъективизм.
  • Like 6
Link to comment
Share on other sites

Рад, что все закончили и посчитали. Жалко, что смог быть только на одном прослушивании. За первую попытку определенно стоить выпить, хотя рассматривать результат как окончательный и самоценный я бы не стал, по причинам, указанным Винни. Думаю, что надо это дело углублять и расширять, сузив выборку цапов, расширив состав экспертов и обновив систему  (ну и, возможно, обновив методику - лично мне было тупо стремно ставить крайние оценки, не видя "идеала" по этим параметрам, поэтому я поначалу ставил средние... если бы перед тестом прогнали бы как эталон какой-нибудь MSB - то задействовать потом всю шкалу оценок было бы проще). Я лично никогда не претендовал на особую золотоухость, думаю, у меня слух несколько хуже среднего по форуму, но в системе Макарова разница между двумя гораздо более дорогими цапами - ml30.6 и каким-то топовым jadis была слышна и глухому с пары секунд. У меня дома жона отличала митька от д47 вслепую буквально с полпинка, разница тоже была очень ощутимая, при этом при последующих включениях легко определяла, какой из этих двух  цапов работает.

Link to comment
Share on other sites

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.
Note: Your post will require moderator approval before it will be visible.

Guest
Unfortunately, your content contains terms that we do not allow. Please edit your content to remove the highlighted words below.
Reply to this topic...

×   Pasted as rich text.   Paste as plain text instead

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.

 Share

×
×
  • Create New...