InnoDB - E / S de gravação de disco alta no arquivo ibdata1 e ib_logfile0


8

Especificação do servidor: VPS com as seguintes informações

model name  : Intel(R) Xeon(R) CPU           E5649  @ 2.53GHz
MemTotal:      2058776 kB
MemFree:        244436 kB

Estamos executando o IP.Board do Invision Power Services, estamos usando innodb_file_per_tablee recarregamos o banco de dados para reduzir o tamanho do ibdata1. No entanto, ainda temos problemas de alto uso de CPU e E / S ultimamente, apesar do ibdata1tamanho reduzido .

Da minha inspeção, acredito que ele causa por alto uso de I / O em ibdata1. Abaixo estão os dados que obtive usando pt-ioprofile -cell sizes(no Percona ToolKit). Basicamente, é a quantidade total de E / S coletada no período de 30 segundos.

# pt-ioprofile -cell sizes
Fri Jul 20 10:22:23 ICT 2012
Tracing process ID 8581
     total      pread       read     pwrite      fsync       open      close   getdents      lseek      fcntl filename
   6995968          0          0    6995968          0          0          0          0          0          0 /db/mysql/ibdata1
   1019904          0          0    1019904          0          0          0          0          0          0 /db/mysql/ib_logfile0
    204800     204800          0          0          0          0          0          0          0          0 /db/mysql/admin_phpbb3forum/phpbb_posts.ibd
     49152      49152          0          0          0          0          0          0          0          0 /db/mysql/admin_ips/ips_reputation_cache.ibd
     32768      32768          0          0          0          0          0          0          0          0 /db/mysql/admin_ips/ips_reputation_totals.ibd
     29808          0          0          0          0          0          0      29808          0          0 /db/mysql/admin_ips/
... (other trivial I/O records truncated)

Correndo iotope vejo DISK WRITE:sobe e desce ao redor 2M/se200K/s

A minha pergunta é, por que nós temos O write alta I / on ibdata1e ib_logfileXenquanto nós temos apenas cerca de 5-10 pequena atualização por segundo em nossas mesas de sessões, que são também MEMORYmesa (apenas cerca de 300K de tamanho)? Isso me intriga porque também não há E / S de gravação equivalente em nenhum outro arquivo de tabela, o que indica que a E / S de gravação não é causada por UPDATE/INSERT/DELETE.

Observe que sou apenas um programador que, por acaso, tem o dever de manter isso; portanto, fique à vontade para solicitar mais informações. Fiz muitas coisas neste servidor, mas não assuma que fiz algo que já deveria ter feito.

Informação adicional:

# ls -l /db/mysql/ib*
-rw-rw---- 1 mysql mysql  18874368 Jul 21 01:26 /db/mysql/ibdata1
-rw-rw---- 1 mysql mysql 134217728 Jul 21 01:26 /db/mysql/ib_logfile0
-rw-rw---- 1 mysql mysql 134217728 Jul 21 01:26 /db/mysql/ib_logfile1

e

mysql> SHOW VARIABLES LIKE 'innodb%';
+-------------------------------------------+------------------------+
| Variable_name                             | Value                  |
+-------------------------------------------+------------------------+
| innodb_adaptive_flushing                  | ON                     |
| innodb_adaptive_flushing_method           | estimate               |
| innodb_adaptive_hash_index                | ON                     |
| innodb_adaptive_hash_index_partitions     | 1                      |
| innodb_additional_mem_pool_size           | 20971520               |
| innodb_autoextend_increment               | 8                      |
| innodb_autoinc_lock_mode                  | 1                      |
| innodb_blocking_buffer_pool_restore       | OFF                    |
| innodb_buffer_pool_instances              | 1                      |
| innodb_buffer_pool_restore_at_startup     | 0                      |
| innodb_buffer_pool_shm_checksum           | ON                     |
| innodb_buffer_pool_shm_key                | 0                      |
| innodb_buffer_pool_size                   | 402653184              |
| innodb_change_buffering                   | all                    |
| innodb_checkpoint_age_target              | 0                      |
| innodb_checksums                          | ON                     |
| innodb_commit_concurrency                 | 0                      |
| innodb_concurrency_tickets                | 500                    |
| innodb_corrupt_table_action               | assert                 |
| innodb_data_file_path                     | ibdata1:10M:autoextend |
| innodb_data_home_dir                      |                        |
| innodb_dict_size_limit                    | 0                      |
| innodb_doublewrite                        | ON                     |
| innodb_doublewrite_file                   |                        |
| innodb_fake_changes                       | OFF                    |
| innodb_fast_checksum                      | OFF                    |
| innodb_fast_shutdown                      | 1                      |
| innodb_file_format                        | Barracuda              |
| innodb_file_format_check                  | ON                     |
| innodb_file_format_max                    | Barracuda              |
| innodb_file_per_table                     | ON                     |
| innodb_flush_log_at_trx_commit            | 2                      |
| innodb_flush_method                       | O_DIRECT               |
| innodb_flush_neighbor_pages               | 0                      |
| innodb_force_load_corrupted               | OFF                    |
| innodb_force_recovery                     | 0                      |
| innodb_ibuf_accel_rate                    | 100                    |
| innodb_ibuf_active_contract               | 1                      |
| innodb_ibuf_max_size                      | 201310208              |
| innodb_import_table_from_xtrabackup       | 0                      |
| innodb_io_capacity                        | 4000                   |
| innodb_kill_idle_transaction              | 0                      |
| innodb_large_prefix                       | OFF                    |
| innodb_lazy_drop_table                    | 0                      |
| innodb_lock_wait_timeout                  | 50                     |
| innodb_locks_unsafe_for_binlog            | OFF                    |
| innodb_log_block_size                     | 4096                   |
| innodb_log_buffer_size                    | 4194304                |
| innodb_log_file_size                      | 134217728              |
| innodb_log_files_in_group                 | 2                      |
| innodb_log_group_home_dir                 | ./                     |
| innodb_max_dirty_pages_pct                | 75                     |
| innodb_max_purge_lag                      | 0                      |
| innodb_mirrored_log_groups                | 1                      |
| innodb_old_blocks_pct                     | 37                     |
| innodb_old_blocks_time                    | 0                      |
| innodb_open_files                         | 300                    |
| innodb_page_size                          | 16384                  |
| innodb_purge_batch_size                   | 20                     |
| innodb_purge_threads                      | 1                      |
| innodb_random_read_ahead                  | OFF                    |
| innodb_read_ahead                         | linear                 |
| innodb_read_ahead_threshold               | 56                     |
| innodb_read_io_threads                    | 24                     |
| innodb_recovery_stats                     | OFF                    |
| innodb_recovery_update_relay_log          | OFF                    |
| innodb_replication_delay                  | 0                      |
| innodb_rollback_on_timeout                | OFF                    |
| innodb_rollback_segments                  | 128                    |
| innodb_show_locks_held                    | 10                     |
| innodb_show_verbose_locks                 | 0                      |
| innodb_spin_wait_delay                    | 6                      |
| innodb_stats_auto_update                  | 0                      |
| innodb_stats_method                       | nulls_equal            |
| innodb_stats_on_metadata                  | OFF                    |
| innodb_stats_sample_pages                 | 8                      |
| innodb_stats_update_need_lock             | 1                      |
| innodb_strict_mode                        | OFF                    |
| innodb_support_xa                         | ON                     |
| innodb_sync_spin_loops                    | 30                     |
| innodb_table_locks                        | ON                     |
| innodb_thread_concurrency                 | 0                      |
| innodb_thread_concurrency_timer_based     | OFF                    |
| innodb_thread_sleep_delay                 | 10000                  |
| innodb_use_global_flush_log_at_trx_commit | ON                     |
| innodb_use_native_aio                     | ON                     |
| innodb_use_sys_malloc                     | ON                     |
| innodb_use_sys_stats_table                | OFF                    |
| innodb_version                            | 1.1.8-rel27.1          |
| innodb_write_io_threads                   | 24                     |
+-------------------------------------------+------------------------+
90 rows in set (0.00 sec)

De @RolandoMySQLDBA: Execute este

SET @TimeInterval = 300;
SELECT variable_value INTO @num1 FROM information_schema.global_status
WHERE variable_name = 'Innodb_os_log_written';
SELECT SLEEP(@TimeInterval);
SELECT variable_value INTO @num2 FROM information_schema.global_status
WHERE variable_name = 'Innodb_os_log_written';
SET @ByteWrittenToLog = @num2 - @num1;
SET @KB_WL = @ByteWrittenToLog / POWER(1024,1) * 3600 / @TimeInterval;
SET @MB_WL = @ByteWrittenToLog / POWER(1024,2) * 3600 / @TimeInterval;
SET @GB_WL = @ByteWrittenToLog / POWER(1024,3) * 3600 / @TimeInterval;
SELECT @KB_WL,@MB_WL,@GB_WL;

e mostre a saída. Isso informará quantos bytes por hora são gravados em ib_logfile0 / ib_logfile1 com base nos próximos 5 minutos.

Resultado da consulta acima do SQL (às 8h, horário local, enquanto os membros online representam cerca de 25% das estatísticas durante o dia):

mysql> SELECT @KB_WL,@MB_WL,@GB_WL;
+--------+----------+-------------------+
| @KB_WL | @MB_WL   | @GB_WL            |
+--------+----------+-------------------+
|  95328 | 93.09375 | 0.090911865234375 |
+--------+----------+-------------------+
1 row in set (0.00 sec)

Por favor, execute o seguinte ls -l /var/lib/mysql/ib*desejo ver os tamanhos dos arquivos. Também preciso saber qual versão do MySQL você está executando e se todos os seus dados são InnoDB.
RolandoMySQLDBA

Por favor, execute isto: SHOW VARIABLES LIKE 'innodb%';e mostre isso na sua pergunta !!!
RolandoMySQLDBA

@RolandoMySQLDBA Obrigado pelo seu interesse. A questão agora é atualizada com os tamanhos de arquivo e as variáveis ​​innodb.
tia

Quanta RAM no servidor DB ??
RolandoMySQLDBA

@RolandoMySQLDBA Tem 2 GB. Eu atualizei a pergunta de acordo.
tia

Respostas:


7

Aqui estão algumas coisas que você pode mudar

  • innodb_log_buffer_size : você tem 4 milhões. O padrão é 8M. Tente aumentá-lo para 8 milhões.
  • innodb_log_file_size : você tem 128 milhões. Dadas as seguintes informações que você forneceu
    • você escreve em média 93MB por hora nos arquivos de log do innodb, com base em 25% das estatísticas
    • o horário de pico seria de cerca de 372 MB por hora
    • metade tem 186 MB e 192 MB
    • configure innodb_log_file_size para 192M
  • innodb_io_capacity parece um pouco alto, faça 200 ou 300 (dependendo do hardware)
  • innodb_read_io_threads e innodb_write_io_threads devem estar no máximo em 64. Às vezes, menos é melhor em um ambiente com muita gravação. Use 8 ou 16 nesses casos.

Para alterar innodb_log_file_size para 192M, adicione-o ao /etc/my.cnf

[mysqld]
innodb_log_buffer_size=8M
innodb_log_file_size=192M
innodb_open_files=300
innodb_read_io_threads=64
innodb_write_io_threads=64

então faça o seguinte

mysql -u... -p... -e"FLUSH TABLES;"
service mysql stop
mv /var/lib/mysql/ib_logfile0 /var/lib/mysql/ib_logfile0000
mv /var/lib/mysql/ib_logfile1 /var/lib/mysql/ib_logfile0001
service mysql start

Teste isso em tempos lentos e veja se isso melhora as coisas

UPDATE 2012-10-19 12:31 EDT

Para colocar sua situação em perspectiva, pense sobre quais são os objetivos de ibdata1 e ib_logfile0 / 1. Em vez de reescrever tudo, leia meu post mais recente sobre arquivos de log ibdata1 e InnoDB: O que exatamente são arquivos iblog no mysql

Depois de ler minha outra postagem, considere agora: O que aumentaria a E / S nesses arquivos?

  • Atualizando índices secundários no buffer de inserção do ibdata1
  • Limpando os segmentos de reversão / desfazer espaço

IMHO eu aumentaria o InnoDB Buffer Pool de 384M para 1G.

Eu também recomendaria atualizar a RAM para 8G

Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.
Licensed under cc by-sa 3.0 with attribution required.