写入cassandra datastax驱动程序引发的超时

4 回答

• 0

  虽然我不明白这个问题的根本原因，但我能够通过增加conf / cassandra.yaml文件中的超时值来解决问题 .

  write_request_timeout_in_ms: 20000
  

  回复于 2024-05-04T07:53:59+08:00
• -1

  我们在连接了SAN存储的ESX群集中的单个节点上遇到类似问题（这是not recommended by datastax，但此时我们没有其他选项） .

  Note: 下面的设置可能对Cassandra可以实现的最大性能有很大的打击，但我们选择了稳定的系统而不是高性能 .

  在运行 iostat -xmt 1 时，我们发现了WriteTimeoutExceptions同时发生的高w_await时间 . 事实证明，memtable无法在默认的 write_request_timeout_in_ms: 2000 设置中写入磁盘 .

  我们将memtable大小从512Mb（默认为堆空间的25％，在我们的例子中为2Gb）显着减少到32Mb：

  # Total permitted memory to use for memtables. Cassandra will stop
  # accepting writes when the limit is exceeded until a flush completes,
  # and will trigger a flush based on memtable_cleanup_threshold
  # If omitted, Cassandra will set both to 1/4 the size of the heap.
  # memtable_heap_space_in_mb: 2048
  memtable_offheap_space_in_mb: 32
  

  我们还将写入超时略微增加到3秒：

  write_request_timeout_in_ms: 3000
  

  如果IO等待时间过长，还要确保定期写入磁盘：

  #commitlog_sync: batch
  #commitlog_sync_batch_window_in_ms: 2
  #
  # the other option is "periodic" where writes may be acked immediately
  # and the CommitLog is simply synced every commitlog_sync_period_in_ms
  # milliseconds.
  commitlog_sync: periodic
  commitlog_sync_period_in_ms: 10000
  

  这些设置允许记忆保持较小并经常书写 . 异常得到了解决，我们在系统上运行的压力测试中幸存下来 .

  回复于 2024-05-04T07:53:59+08:00
• 18

  它是协调器（因此服务器）超时等待写入的确认 .

  回复于 2024-05-04T07:53:59+08:00
• 28

  值得仔细检查Cassandra的GC设置 .

  在我的情况下，我使用信号量来限制异步写入并且仍然（有时）获得超时 .

  我发现我使用了不合适的GC设置，为了方便起见，我一直在使用cassandra-unit，这会导致使用默认的VM设置运行时出乎意料 . 因此，我们最终会触发一个停止世界的GC，从而导致写入超时 . 应用与我正在运行的cassandra docker图像相同的GC设置，一切都很好 .

  这可能是一个不寻常的原因，但它会帮助我，所以它似乎值得记录在这里 .

  回复于 2024-05-04T07:53:59+08:00