#Следующая директива разрешает всем роботам индексировать все ресурсы сайта, так как используется символ подстановки "*". User-agent: * Disallow: