XATA
Foto
Friends
Search
Archives
RSS Feed



Contact Form
# icq 5127527
LiveJournal
Flickr



Blog Admin

§ 265. ТОП Україна

Скоріше за все я закрию сайт ТОП Україна :( принаймі в цій версії.

Причина проста, дуже велике навантаження на базу даних сервера в співвідношенні до кількості хітів. Двигунець абсолютно не оптимізований і мій неслабенький чотирьох процесорний сервер (Dual Xeon 2.8Ghz HT EMT64) з 4 GB RAM не витримає більше 100тис. хітів.

Я ще проведу деякі тести і якщо вони не покажуть перспективи то з 1 листопада ТОП сайтів припинить своє існування.



65 коментарів

    a gravatar
  1. Андрій Рущак:
    10:35 // 17 Жовт.. 2006

    Сподіваюся, нова версія не заставить себе чекати!


  2. a gravatar
  3. LaSet:
    13:07 // 17 Жовт.. 2006

    скоріше всього і її не буде по причині, що нема кому написати


  4. a gravatar
  5. Kyrya:
    21:06 // 17 Жовт.. 2006

    Прикро :( Був такий гарний рейтинг…


  6. a gravatar
  7. LaSet:
    21:42 // 17 Жовт.. 2006

    ну з вигляду він ще так нічого виглядав ;)


  8. a gravatar
  9. Kyrya:
    21:59 // 17 Жовт.. 2006

    Я ж про то й кажу. Сподіваюсь, що він ще відродиться!


  10. a gravatar
  11. Kyrya:
    22:27 // 17 Жовт.. 2006

    Може йому продовжити існування без підрахунку хітів. Головне - хости.


  12. a gravatar
  13. LaSet:
    22:33 // 17 Жовт.. 2006

    Kyrya, в принципі запити до БД йдуть ті самі, щоб переписати двигунець потрібен програміст, яким я не являюсь


  14. a gravatar
  15. Kyrya:
    22:36 // 17 Жовт.. 2006

    Кинь клич. Може бажаючі знайдуться :)


  16. a gravatar
  17. None Smilodon:
    1:08 // 18 Жовт.. 2006

    На чым написане звірятко?


  18. a gravatar
  19. Sanjak:
    1:09 // 18 Жовт.. 2006

    То що можна прибирати кнопку з сайту? Як запустиш нову версію, розішли всім учасника мейл ;)


  20. a gravatar
  21. myth:
    1:14 // 18 Жовт.. 2006

    widizwys na ICQ abo maila. moze szczos przydumajemo.


  22. a gravatar
  23. LaSet:
    1:20 // 18 Жовт.. 2006

    Sanjak, так, можеш вже напевно

    myth, я практично завжди відписую


  24. a gravatar
  25. Цубербіллєр:
    3:41 // 18 Жовт.. 2006

    Все шо починаться добре - закінчується зле
    Все шо починається зле - закінчується ше гірше…


  26. a gravatar
  27. Сергій:
    7:44 // 18 Жовт.. 2006

    :/ Мда… Весело, мабуть не варто було й починати
    Успіхів на майбутнє


  28. a gravatar
  29. hip:
    8:09 // 18 Жовт.. 2006

    жалко, цей сервіс був один з найзручніших в Україні :( . буду сумувати за ним.

    Для нього напевне був потрібен свій незалежний сервер.


  30. a gravatar
  31. Masterpiecer:
    8:41 // 18 Жовт.. 2006

    шкода.. сумуватиму..:-(
    це був єдиний рейтинґ, де мій блоґ постійно тусував у першій 10ці..:-)


  32. a gravatar
  33. Логвиненко:
    8:51 // 18 Жовт.. 2006

    В мене є місце на хостингу, для такої чудової справи - гріх не виділити!
    Чи я дуплю і проблема в чомусь іншому?
    Відгукнись на icq!


  34. a gravatar
  35. Rozbi:
    9:38 // 18 Жовт.. 2006

    що робити з кнопкою?
    я до вас звик…


  36. a gravatar
  37. Lord Pro.teus:
    14:21 // 18 Жовт.. 2006

    Дійсно шкода - це єдиний сайт, якому я довірився й поставив баннер, що на мене не схоже. Сподіваюся на відродження, можливо і я в ньому колись буду на достойному місці…


  38. a gravatar
  39. ole-studio:
    14:27 // 18 Жовт.. 2006

    http://www.top-forum.zoxt.net/ каталог з елементами рейтингу для україномовних форумів… Якщо є ентузіасти і учасники…


  40. a gravatar
  41. masyk:
    15:01 // 18 Жовт.. 2006

    Прошу до участі у топі http://top.a.ua тим часом


  42. a gravatar
  43. Роман:
    15:38 // 18 Жовт.. 2006

    Дуже шкода, що сайт можливо закриється. Ітак дуже мало сайтів з українською мовою. А ті які мають в сробі дві мови (російську та українську) по замовчуванню стоїть російська, але є можливий вибір української. Хоча переклад не повний.
    Побажання все ж таки щоб сайт працював. Повідомте про відновлення проекту. Кнопку поки не видаляю.


  44. a gravatar
  45. LaSet:
    17:52 // 18 Жовт.. 2006

    Masterpiecer, ти певно з http://top.blog.net.ua путаєш? він буде жити і довго бо там гарний скрипт

    Логвиненко, я не користують асею, у мене цей ТОП забирав практично всі(чи дуже багато) ресурсів на потужному виділеному сервері, тому твій хостинг не допоможе, проблема в тому, що абсолютно не вигідно зі всіх боків. Наприклад шоб порахувати тільки відвідувачів “Української Правди” треба окремий сервер, перно легше саму “Правду” захостити ;)

    Lord Pro.teus & Роман, можливо знайдуть люди які зможуть значко полегшити скрипт, від мене тут мало залежить

    masyk, дякую але тут певно зібрались люди які хочуть ураїномовний топ з україномовними сайтами, в цьому була особливість


  46. a gravatar
  47. LaSet:
    18:47 // 18 Жовт.. 2006

    Rozbi, в принципі можна трохи зачекати

    None Smilodon, php


  48. a gravatar
  49. NFC:
    3:03 // 19 Жовт.. 2006

    Якщо там тормоза в базі то можна було б просто створити додаткову таблицю і з певним проміжком часу скидати туди поточну статистику - тобто буде своєрідний кеш …(ну це дописувати скрипт треба). А по великому рахунку, якщо двигун не розрахований на серйозне навантаження - то краще вже шукати інший - бо все одно там напевно купа вузьких місць знайдеться.


  50. a gravatar
  51. LaSet:
    6:00 // 19 Жовт.. 2006

    NFC, там взагалі по кривому то все було зроблено. Покажіть мені інший подібний двигун, якщо він підійде за потребами та ф-ціями я його поставлю


  52. a gravatar
  53. LanceloT:
    6:25 // 19 Жовт.. 2006

    Погано, як закриється він. В мене лічільників багато, але цей як побачив тут же закинув!!!
    В ньому щось є українське! Гарно було б щоб він не відмер!!!!!!!!!!!!!!

    З повагою
    LanceloT


  54. a gravatar
  55. fragov:
    14:53 // 19 Жовт.. 2006

    А CN Stats пробував?


  56. a gravatar
  57. Vitaliy:
    15:42 // 19 Жовт.. 2006

    мені зараз подобається i.ua :) в них лічильники гарні :)


  58. a gravatar
  59. Богдан:
    16:25 // 19 Жовт.. 2006

    Я через те навіть і не думав ставити цей скрипт на Домівку.. дійсно мій хост би упав в перший день… Дороге задоволення - рейтинг


  60. a gravatar
  61. LaSet:
    17:39 // 19 Жовт.. 2006

    fragov, ну поперше CNStats Rating Standart - коштує за $1500, крім того потребує спеціальну дискову систему RAID 5×36Gb SCSI HDD від якої залежить продуктивність

    Vitaliy, мені також вони сподобалися тому планував зробити ще кращі, але не встиг :\

    Богдан, це просто скрипт такий, нормально написаний і оптимізований код може витримувати пару мільйонів хітів на такому сервері, а цей не витримує і 100тис.


  62. a gravatar
  63. questX:
    2:57 // 20 Жовт.. 2006

    а eAcelerator на сервері стояв?


  64. a gravatar
  65. LaSet:
    9:15 // 20 Жовт.. 2006

    questX, eAсcelerator не має відношення до БД бо займається кешуванням php файлів


  66. a gravatar
  67. Style)r:
    12:24 // 20 Жовт.. 2006

    Можна створити скрипт на .php, який учасник заливає собі на хост і вставляє в сторінку пхп код у сторінку (навіть точніше буде), дані записуються в текстовий файл і, наприклад, кожні 20-30 хвилин поновлюються на сервері.

    >>мені зараз подобається i.ua :) в них лічильники гарні :)
    У топ Україна привабливіші ;)


  68. a gravatar
  69. LaSet:
    12:31 // 20 Жовт.. 2006

    Style)r, це непопулярний метод, а як бути з хостингами без php!? складно


  70. a gravatar
  71. Style)r:
    13:11 // 20 Жовт.. 2006

    А що зараз досі хтось користуєтсья хостингами без пхп? :] Забити! Таких з 3% не набиреться!
    Складно - правда, бо доведеться, фактично, тобі переписувати весь скрипт, але діючий вихід :) Ще варіанти є крім закриття?


  72. a gravatar
  73. LaSet:
    13:15 // 20 Жовт.. 2006

    myth запропонував допомогу і зараз намагається трохи переписати код


  74. a gravatar
  75. Style)r:
    13:27 // 20 Жовт.. 2006

    Навіть якщо оптимізація зменшить 50% навантажень, ал ж це не буде вихід =( Тільки відстрочка буде на декілька місяців, а сайти то будуть додаватись. Шкода рейтингу, так швидко розвивався =(


  76. a gravatar
  77. LaSet:
    13:49 // 20 Жовт.. 2006

    Style)r, чи підійшов би рейтинг сайтів без циферок на кнопці? типу http://top.blog.net.ua/ ? але з категоріями?


  78. a gravatar
  79. Kyrya:
    21:48 // 20 Жовт.. 2006

    Не підійшов. У ТОП Україна були найгарніші кнопки з усіх рейтингів.


  80. a gravatar
  81. LaSet:
    21:55 // 20 Жовт.. 2006

    Kyrya, жаль, бо в принципі можна було б переробити під сайти, рейтинг сайтів по категоріям. Кнопки можна би було поставити 88х31 і перші десять сайтів в окремій категорії отримують кнопки з номером рейтингу(в окремій категорії)

    Навіть можна би було з циферками але певно це б додатново грузило БД


  82. a gravatar
  83. Kyrya:
    23:10 // 20 Жовт.. 2006

    Тоді треба так робити. Головне, щоб рейтинг вижив. Хоча без цифр це вже буде не той ТОП Україна :(


  84. a gravatar
  85. hip:
    8:10 // 21 Жовт.. 2006

    Круто Топ буде житиБ а я навіть кнопку і не стирав тому що знав що він виживе.


  86. a gravatar
  87. Style)r:
    14:47 // 21 Жовт.. 2006

    >>У ТОП Україна були найгарніші кнопки з усіх рейтингів.
    Згодний = )

    >>Круто Топ буде житиБ а я навіть кнопку і не стирав тому що знав що він виживе.
    тобто? Надія?


  88. a gravatar
  89. questX:
    6:20 // 22 Жовт.. 2006

    >>questX, eAсcelerator не має відношення до БД бо займається кешуванням php файлів
    я то знаю, якщо зменшити нагрузку пхп, то стане більше ресурсів для БД

    А взагалі як вияснили, що не витримує саме БД?


  90. a gravatar
  91. LaSet:
    9:44 // 22 Жовт.. 2006

    questX, логічно, а якщо купити дата-центр то і не треба оптимовувати ;) але суті це не міняє

    – А взагалі як вияснили, що не витримує саме БД?
    можна через WHM чи командою top в SSH, багато спасобів


  92. a gravatar
  93. Lord Pro.teus:
    15:33 // 23 Жовт.. 2006

    Мене варіант з кнопками без лічильника цілком влаштовує, аби без зміни дизайну…


  94. a gravatar
  95. Style)r:
    14:39 // 24 Жовт.. 2006

    Слухайте, я розумыю, що рейтингу непереливки, але ж майте совість! Нашо рекламувати ваші ресурси? Опустилися до чого, рекламуєте свій рейтинг на сторінці блогу, коли інший загинається! ЖЛОБИ! І ваш рейтинг а.уа жлобський!

    P.S. Рейтинг має жити! У мене вже є плани щодо сайтів на майбутнє, де буде стояти рейтинг ;)


  96. a gravatar
  97. LaSet:
    15:02 // 24 Жовт.. 2006

    Style)r, що за плани?


  98. a gravatar
  99. Masterpiecer:
    23:59 // 25 Жовт.. 2006

    LaSet, нічого я не плутав! у мене обидва рейтинги стоять! просто в топ блоґ я вище топ20 ніколи не стрибав, а тут бував і на 3…


  100. a gravatar
  101. LaSet:
    0:05 // 26 Жовт.. 2006

    Masterpiecer, в топ Україна значно вища планка і якщо ти займаєш 3 місце то перше в топі блоггерів тобі гарантоване ;)


  102. a gravatar
  103. Masterpiecer:
    4:53 // 28 Жовт.. 2006

    LaSet, якраз ні! вище 3 місця ще не стрибав. а от мій ‘Український блоґґер’ і на 2 бував.. якби топ Україна працював, то я б там теж серед героїв ходив.. :-( шкода..


  104. a gravatar
  105. roman:
    4:56 // 28 Жовт.. 2006

    Що ж, LaSet, можу спробувати написати новий двигун для сайту. Однак не на технології РНР, а на Java, бо у плані продуктивності вона набагато краща за РНР, так являє собою компільовану технологію.
    Крім того, добре було би підняти ще сервер баз даних, не обов’язково із дуже потужним залізом. Відповідно, схема наступна - на одному сервері стоїть ВЕБ-сайт + база даних, до якої йдуть лише INSERT та UPDATE команди, а всі SELECT-команди йдуть до іншого додаткового сервера. Між двома базами даних налаштована реплікація, при якій ведучим (master) є сервер баз даних, на якому стоїть ВЕБ-сайт, а веденим (slave) є той додатковий сервер.
    Це так звана дворівнева кластеризація бази по ролях. Без неї тут майже ніяк не обійтися. В мене наприклад, потік на кластер становить близько 40 тис. запитів на годину в “час-пік” і сервер би простозгорнувся кандибобриком :), тому ми використовуємо 4х рівневу кластеризацію.


  106. a gravatar
  107. LaSet:
    6:02 // 28 Жовт.. 2006

    roman, дякую за пропозицію але у мене наразі немає планів про зміну сервера чи купівлю додаткового кластера, принаймі для топу.

    краще скажи скільки необхідно северів щоб обробити 10млн. запитів на добу?


  108. a gravatar
  109. roman:
    12:10 // 28 Жовт.. 2006

    > краще скажи скільки необхідно северів щоб обробити 10млн. запитів на добу?

    Це залежить від співвідношення CPUtime-per-request, а також від того, чи запитується статичний контент або динамічний. А сторінка як правило включає в себе обидва цих типи контенту. І що найцікавіше, дослідження показали, що статичний контент вбиває сервер не суттєво менше, ніж динамічний. Уся проблема в тому, що для того, щоб приміром витягнути картинку, httpd вичитує її з диска в пам’ять, а потім видає її в Інтернет. Така процедура включає в себе операції вводу/виводу, що скоріше за все “повішає” сервер, якщо запитувати вже навіть 1000-1500 картинок за хвилину при середньому розмірі 150кБ. Вихід - використання так званого CDN-кешу, тобто розміщення статичного контенту на серверах CDN-провайдера. Одним з таких є Akamai (http://www.akamai.com/html/technology/index.html). Саме з ним я і маю справу :). Пригадую, коли відмовив CDN-кеш для одного із доменів (всього їх на той час хостилось бизько десяти), то трафік та навантаження сумарно на весь кластер зросло на 40%. А якщо би відмовив CDN для всіх доменів то… :)

    Якщо ти маєш 10млн. запитів на добу для такого проекту, яким є ТОП Україна, то би організував кластер наступним чином:
    1. Load Balancer, апаратний, напр. Cisco CSS15011
    2. 4 Application Servers (Dual Xeon or AMD64), 2Gb RAM each, де 3 з них видають контент для відображення лічильників, а один з них - сервить BackEnd-сторінку для управління та відображення статистики.
    3. 3 Database Servers: перший - Dual Xeon, 4Gb RAM, RHEL 4, SELECT Optimized DB Settings, роль - вичитування даних для відображення лічильників, режим - read only, replication slave для сервера №2; другий - Dual Xeon, 4Gb RAM, RHEL 4, INSERT/UPDATE Optimized DB Settings, роль - оновлення статистичної інформації, оновлення даних, режим - write only, replication master; третій - Dual Opteron, 2Gb RAM, RHEL4, General DB Optimization, роль - генерування звітів для користувачів, фактично обслуговування BackEnd-сторінки, replication slave для сервера №2.

    В сумі - 7 серверів+Load Balancer. Оренда такого кластера обходиться близько 4000у.о. в місяць. Сумно, але на одному тілько ентузіазмі такого не купиш :(, однак щоб хостити проект такого масштабу, як бачиш сам, інакше ніяк…


  110. a gravatar
  111. LaSet:
    12:30 // 28 Жовт.. 2006

    цікаво, а що ти скажеш про CNStats.Rating на якому стоїть warlog.info? Розробники запевняють, що один сервер Xeon 2.8GHz, 1Gb, RAID 5×36Gb SCSI HDD здатний обробити більше 10млн. за добу


  112. a gravatar
  113. LaSet:
    13:29 // 28 Жовт.. 2006

    запрошую зареєструватися в http://top.topua.net/


  114. a gravatar
  115. roman:
    4:19 // 29 Жовт.. 2006

    > …warlog.info … здатний обробити більше 10млн. за добу

    ги, відкрив я той warlog.info . Мушу тобі сказати, що лічильник так і не показався - Request time-out :)) Зрештою, як я й очікував. Скріншот - дивись сюди

    Тому й скажу - не витягне. Зрештою, “CNStats работает на любом хостинге, который поддерживает PHP и MySql” однозначно дає відповідь на твоє питання :)


  116. a gravatar
  117. LaSet:
    5:11 // 29 Жовт.. 2006

    в мене показався ;) але топ у них серйозний, за добу набігає до 10млн. хітів

    подивись ще раз


  118. a gravatar
  119. Style)r:
    16:21 // 29 Жовт.. 2006

    А куди дизайн дівся?\


  120. a gravatar
  121. LaSet:
    16:25 // 29 Жовт.. 2006

    Style)r, це трохи інший топ, також український тому його варто пітримати


  122. a gravatar
  123. Kyrya:
    23:20 // 10 Лист.. 2006

    ТОП-Україна припинив своє існування остаточно?


  124. a gravatar
  125. LaSet:
    23:57 // 10 Лист.. 2006

    Kyrya, нажаль так

    раджу зареєструватися в http://top.topua.net/


  126. a gravatar
  127. Kyrya:
    0:13 // 11 Лист.. 2006

    Вже :) Як тільки він створювався.


  128. a gravatar
  129. Kyrya:
    21:48 // 10 Груд.. 2006

    Добре, що ти передав дизайн рейтингу TOP.TOPUA.NET. Ми дуже раді бачити його знову! :)


Коментувати