magentadesk の 0.9.0 をリリースしました。

https://github.com/shigenobu/magentadesk/releases

MySQL 8.4の

ERROR 1030 (HY000): Got error 124 - 'Wrong index given to function' from storage engine

のエラーに対応すべく、差分検出クエリーの書き方を大きく変更しました。

この問題は、非常にやっかいでしたが、

書き方変更により、MySQL 8.0系で発生していた重複計上も解消したので、

多少のパフォーマンス向上も見られる形となっています。

この話はUNIONに関係する問題で、色々検証したので、違う記事に詳細を記載しておきます。

さて、magentadeskですが、同じ筐体(同じプロセスが管理する)にある2つのデータベースのテーブルについて、

差分を詳細に検出して、同期するものなのですが、

リモートとの比較をうまくできないかを思案中です。

今のロジックでは、完全外部結合を行い、その差分を利用しているのですが、

リモートとなると、透過的エンジン(Spiderなど)を使って実現したとて、

パフォーマンスが大きく落ちてしまいます。

そのため、レプリケーションをキャプチャして、差分用のテーブルを作っておくなどの対応が必要となります。

ちょっと難しそうですが、やってみようかなとは検討してます。

以上

投稿日時:2026年01月30日 17:12   カテゴリー:java, mariadb, mysql  

magentadesk 0.9.0 のリリースでも触れましたが、

MySQLのUNIONに非常に苦しめられました。

具体的には、完全外部結合をする過程の中で、使っているUNIONの箇所で、

ERROR 1030 (HY000): Got error 124 - 'Wrong index given to function' from storage engine

というエラーが発生します。

この原因がどうもMySQL 8.0 から導入されたTempTableエンジンという一時テーブル用のエンジンの不具合のようです。。


そもそも完全外部結合で何をしたいかというと、以下のようなイメージとなります。

要は、同じ構成の2テーブルのレコード差を出す形です。

以下のテーブルとデータを用意してます。

create table base (
  id int not null primary key,
  name text not null
);
insert into base values (1, 'A'),(2, 'B'),(3, 'C');

create table compare (
  id int not null primary key,
  name text not null
);
insert into compare values (1, 'A'),(2, 'BB'),(4, 'D');

外部結合がサポートされているPostgreSQLだと簡単にできます。

select
  base.id as base_id, 
  base.name as base_name, 
  compare.id as compare_id, 
  compare.name as compare_name 
from
  base full outer join compare on base.id = compare.id
where
  base.id is null or compare.id is null
  or
  base.id != compare.id or base.name != compare.name
;

 base_id | base_name | compare_id | compare_name 
---------+-----------+------------+-------------
       2 | B         |          2 | BB
       3 | C         |       NULL | NULL
    NULL | NULL      |          4 | D

magentadesk での以前の実装は以下のとおりでした。

これはMariaDBでは問題ありませんでした。当然PostgreSQLでも問題なかったです。

ただし、MySQL 8.0系だと、正しくない結果でした。(結果的にはwhere句を追加して対応)

with
only_base as (
  select * from base
  except
  select * from compare
),
only_compare as (
  select * from compare
  except
  select * from base
),
merge_left as (
  select 
    only_base.id as base_id, 
    only_base.name as base_name, 
    only_compare.id as compare_id, 
    only_compare.name as compare_name
  from only_base left outer join only_compare on only_base.id = only_compare.id
),
merge_right as (
  select 
    only_base.id as base_id, 
    only_base.name as base_name, 
    only_compare.id as compare_id, 
    only_compare.name as compare_name 
  from only_base right outer join only_compare on only_base.id = only_compare.id
),
merge_full as (
  select * from merge_left
  union
  select * from merge_right
)
select
  *
from
  merge_full
;

(MariaDB 12.1)
+---------+-----------+------------+-------------+
| base_id | base_name | compare_id | compare_name |
+---------+-----------+------------+-------------+
|       2 | B         |          2 | BB          |
|       3 | C         |       NULL | NULL        |
|    NULL | NULL      |          4 | D           |
+---------+-----------+------------+-------------+

(PostgreSQL 18.1)
 base_id | base_name | compare_id | compare_name 
---------+-----------+------------+-------------
       3 | C         |       NULL | NULL
       2 | B         |          2 | BB
    NULL | NULL      |          4 | D

(MySQL 8.0.44)
+---------+-----------+------------+-------------+
| base_id | base_name | compare_id | compare_name |
+---------+-----------+------------+-------------+
|       2 | B         |          2 | BB          |
|       3 | C         |       NULL | NULL        |
|       1 | A         |          1 | A           |
|    NULL | NULL      |          4 | D           |
+---------+-----------+------------+-------------+

このクエリーはMySQL 8.4 だと動きません。

そのため、次の形に変更しました。

with
only_base as (
  select id, MD5(IFNULL(name, '')) as row_hash from base
  except
  select id, MD5(IFNULL(name, '')) as row_hash from compare
),
only_compare as (
  select id, MD5(IFNULL(name, '')) as row_hash from compare
  except
  select id, MD5(IFNULL(name, '')) as row_hash from base
),
diff_keys as (
  select id from only_base
  union
  select id from only_compare
),
merge_full as (
  select
    base.id as base_id, 
    base.name as base_name, 
    compare.id as compare_id, 
    compare.name as compare_name 
  from
    diff_keys
    left outer join base on diff_keys.id = base.id
    left outer join compare on diff_keys.id = compare.id
)
select
  *
from
  merge_full
;

ポイントは、

  • EXCEPTの比較時はハッシュ化しておく
  • UNIONでは主キーのみとする
  • 最後の外部結合で情報を取得する

といったところで、ハッシュ化する負荷はあるもののトータルで見れば軽くなった形となります。

これで、MariaDBも、MySQL 8.0および8.4 でも同じ結果を得ることができました。

さすがにわからかなったので、Geminiにも聞きながらやりました。

とはいえ、結構Geminiも間違えていたので、なかなか厄介な問題なのかなと思っています。


magentadesk での以前の実装のクエリーの問題点は、

merge_full as (
  select * from merge_left
  union
  select * from merge_right
)

の部分なのですが、文字列カラム(char/varchar/text)があると、エラーを引き起こすようです。

バイナリは試していないのですが、同じかもしれません。

もちろん、通常のテーブルのUNIONは問題ないのですが、仮想表でのUNIONには気をつけたほうがいいのかな、という所感です。

UNIONだけなの問題なのか、EXCEPTやINTERSECTまで及ぶのかはわからないのですが、

TempTableにはまだ不具合ありそうなので、テンポラリーに落ちるとき(Using temporary)はご注意ください。

以上

投稿日時:2026年01月30日 17:12   カテゴリー:mariadb, mysql, postgresql  

ebonyrack 1.0.1 をリリースしました。

https://github.com/shigenobu/ebonyrack/releases

今回は無事?1.0.0を超えたので、ロゴを修正しつつ、

カラムへのエイリアス設定という機能を追加しました。

これはなんてことない機能なのですが、

クラスファイルを出力時に利用されることを想定しています。

たとえば、データベース上では、intで定義した型であっても、

プログラムではENUMで扱いたいよね、などというときに利用するものです。

エイリアスは3つまで設定できるので、3つのプログラム言語まで対応ってイメージにしてます。

また、カラムの説明なんかも、ノートを使うと見づらくなってしまう場合もあるので、

ここに説明をかくと、DDLにコメントとして表示されるようにしています。

総じて、クラスファイル出力時のお助け機能といったところです。

がんばって体裁は整えていますが、ソースコードもかなり量が多く、

メンテナンスコストもかかるようになってきました。

やっぱり、もうちょっと分割できるような仕組みがよいなーと思い、最近はavalonia.uiを勉強中です。

WPFを知っていることが前提なので、しんどい部分もありますが、

今後記事にできればとは考えています。

以上

投稿日時:2026年01月30日 14:26   カテゴリー:java, mariadb  

2025年8月(もう3ヶ月も前)に、MariaDB 12.0がリリースされました。

STS(正式にはRolling Releaseという)ですが、ついに12系ということで、

ちょっと変更点を見てみたいと思います。

(mariadb 12.0)

https://mariadb.com/docs/release-notes/community-server/release-notes-mariadb-12.0-rolling-releases/what-is-mariadb-120


確か、12.0でmysqlコマンドは完全になくなり、mariadbコマンドになるかなと。

confの設定も、mysqlセクションじゃなくて、mariadbセクションになるのかしら?

ここは見てないのですが、タレの焼き直しが必要そうな匂いですね。

oracleモード関連での強化もなされているようですね。

とはいえ、オプティマイザヒントが入ったり、次のバージョンでcaching_sha2_passwordが入ったりと、

MySQL本家とは離れているようで、機能は似せるようにしている印象です。

個人的には、

explain format=tree ...

が入ってほしいな〜とは期待しています。

また、自分の作っているmagentadeskも0.8.1で、12.0対応済みです。

(magentadesk)

https://github.com/shigenobu/magentadesk/releases

最近思うことですが、DBも進化もさることながら、アプリケーションおよび、インフラとかも進化がすごくて、追うのが辛い。。

生成AIは確かにすごいが、アルゴリズムを考えるのがヒトでなくなったとき、ほんとにやばいなーという気がしています。

自分もJetbrainsのAIアシスタントとか使ってますが、書く力がなくなってきているのではないか?と自問自答しています。

とはいえ、JSとかCSSとかについては、知らないことが多いので、AIアシスタントで逆に教えてもらっている側面もあると思うと、なかなか難しいなーとは思いつつ。。

自問自答することが無くなったら、それこそ終わりな気もするので、注意していきたいかなとは思ってます。

以上

投稿日時:2025年10月26日 00:05   カテゴリー:mariadb  

ebonyrack 0.9.2 をリリースしました。

https://github.com/shigenobu/ebonyrack/releases

0.8.5からの主な変更点は以下となります。

(0.8.6)

・マウスドラッグで、ワークスペースを動かせるようにしました。

HTMLの場合と動作を合わせています。

(0.9.0)

・java21に上げました。

・HTML出力時のembed fontをwoff2に変更しました。

・HTML出力時の画像ファイルをPNGからWEBPに変更しました。

(0.9.1)

・テーブルコピー時に、ユニークキー、キー、外部キー、制約をコピーしないようにしました。

※外部キーは元々コピーしてませんでしたが。。

・予約語を見直しました。その結果、oracle mode時の予約語は削除しました。

(0.9.2)

・フォントをMPlus1からmiguに変更しました。

大きな変更はなく、細かな使い勝手の変更です。

fontに関しては、MPlusがとてもきれいで気に入っていたのですが、

全角記号などの外字が表示できないなどがあり、miguフォントに変更しました。

miguフォントはJIS第4水準までカバーしているということなので、

大きな見栄えの変更なく移行できたかなという感じがします。

https://itouhiro.github.io/mixfont-mplus-ipa/migu

HTMLの出力画像ですが、これまでPNGだったのですが、どうしてもサイズが大きくなっていたので、

これをWEBPに変換しました。

・PNGからWEBPの変換

・ttfからwoff2への変換

の2つで、6.3MBのHTMLファイルを、3.5MBまで減らすことができました。

VIEWとか入れようと思っていたのですが、どうしようかなと最近は思い直しています。

NOTEに「コメントとして扱わない」みたいなフラグでも設けて対応するのが安いのかなーとか考えてますが、ちょっと先送りになりそうです。

1機能を足すのに、やるべきことがたくさん発生してしまい、作りがよくないのかなーと思いつつ。。

テスト機能についても、生成AIとか使うほうが簡単じゃない?とか思うようになり、あんまりいらないのかなと。。

というわけで、大きな機能追加はしばらくなさげな感触です。

以上

投稿日時:2025年10月25日 23:44   カテゴリー:java, mariadb  

今月はがんばりました。

0.8.5をリリースしました。

https://github.com/shigenobu/ebonyrack/releases

MariaDBと謳っていますが、MySQLも可能なので、フリーのER図作成ツールとして、

少しでも、世の中で使ってもらいたいなと感じる出来になってきたかなと思っています。

とはいえ、マニュアルも古いので書き換えないとですね。。

0.8.1〜0.8.5の変更内容は以下のとおりです。

なお、0.8.5で、ローカルのSQLITEの一部の型を変更したので、

旧バージョンでJSONをWRITEしてから、新バージョンでJSONをREADしてもらえればと思います。


検索ボックスを画面の左下に出すようにしました。

enterで次へ、shift+enterで前へ、なども対応しています。

フォーカスの遷移は、単語ごとではなく、オブジェクトごとになってます。

合わせてサイドのスライダーも連動するようになってます。

個人的には結構いい感じかなと満足の出来です。

ALTER TABLEによる外部キーのIMPORTに対応し、

さらにCREATE TABLEに含まれる外部キーのIMPORTにも対応しました。

かなり厄介でした。。

ebonyrackの仕様として、外部キー同士の型が一致していないとダメとしているのですが、

それはIMPORTにも適用させていただきました。

タイトルの通り、一括で位置と色を調整できるようしました。

例によって、エクセルからの貼り付け対応ですね。(正確にはタブ区切り)

上記以外にも、

フォーカスがあたっているオブジェクトにenter押下で編集画面を上げるようにしたり、

ちょこちょこ使い勝手の修正をいれてます。

そして、やるやる言ってた外部キーと検索ができたので、

改めて次の課題を備忘録的に書いておきます。

  • VIEW/FUNCTION/TRIGGER/PROCEDURE
  • テストデータ生成
  • IMPORT時の自動配置調整
  • パフォーマンス調整

JAVA21用にも書き換えないとですね。

1.0.0も近づいてきたので(特に意味はないですが)、頑張ろうかと思います。

以上

投稿日時:2025年06月27日 22:53   カテゴリー:java, mariadb  

MariaDB 11.8 が今月GAリリースされました。

https://mariadb.com/docs/release-notes/mariadb-community-server-release-notes/mariadb-11-8-series/what-is-mariadb-118

今回はLTSなので、2028年6月までの長期サポートとなります。

公式を見ていただければわかりますが、流行りのVECTOR型とか色々入ってます。

基本的には、STSである11.5〜11.7の変更がそのまま取り入れられている感じですね。

いろいろ、見返してみると、MariaDBは10.0の時代から、

DELETE〜RETURNING

があったんですね。。初めて知りました。

https://mariadb.com/docs/server/reference/sql-statements/data-manipulation/changing-deleting-data/delete

RETURNINGは、

  • INSERT RETURNING
  • REPLACE RETURNING
  • DELETE RETURNING

ってことで、3つあるようです。

REPLACEはちょっと色々あるのであんまり使わないですが、

DELETE RETURNINGはデータの退避とかにも使えそうですね。


で、自分のつくっているmagentadeskもv0.8.0でMariaDB 11.8に対応しました。

https://github.com/shigenobu/magentadesk

※すいません、VECTOR型は未対応です。。

MySQLも8.4系をサポートしようと思ったのですが、

magentadeskが差分検出時に行うクエリーで以下のようなエラーが出るようになりました。

[ERROR] [MY-010211] [Server] Got error 124 when reading table '/tmp/#sql1_10_5e'

8.0.42などの8.0系ではでないのですが、8.4から急に出るようになりました。

原因は今の所不明です。。

なにかわかったらまたブログに書こうかなと。

とりあえず、今回は以上。

投稿日時:2025年06月27日 22:31   カテゴリー:mariadb  

EOLを迎えて1年立ちましたが、未だにcentos7は使われているはず。

valutがアーカイブレポジトリを提供しており、これを使えばまだしばらくは大丈夫なはず。

(参考)

https://qiita.com/ragi/items/9225f307ea3b38ba1fa6

とはいえ、アリババもレポジトリを提供していたりします。

https://developer.aliyun.com/mirror/centos

上記を参考に、centos7の場合は、

# mv /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo.backup
# wget -O /etc/yum.repos.d/CentOS-Base.repo https://mirrors.aliyun.com/repo/Centos-7.repo

てな感じで、レポジトリを上書きできます。

ただ、baseurl記載の

  • mirrors.aliyuncs.com
  • mirrors.cloud.aliyuncs.com

がアクセスできないことがあるので、この2行は削除しておくといいかもしれません。

あとは、

# yum clean all

してから、色々操作ができるはず。

古いサーバにどうしても追加モジュールを入れる必要があり、

このような方法を取ったことがあったので、記載しておきます。

valutもそうですが、アリババのレポジトリもいつまで生きているかわからないので、

なるべく早くOS移行をしましょう。

以上

投稿日時:2025年06月10日 23:01   カテゴリー:centos  

しばらくぶりの投稿となってしまいました。。

ebonyrack の 0.8.0 をリリースしました。

https://github.com/shigenobu/ebonyrack/releases

0.7.1 – 0.8.0 での主な変更点は以下となります。

なお、0.7.2 でローカルデータベースの変更が入っているので、

旧バージョンでJSONにWriteしてから、新バージョンでJSONをReadしてください。


外部キーの参照される側のカラム(親テーブルのカラムといったほうがいいか)は、

主キーもしくはユニークキーであるようにしました。

もともと外部キーというのはそういうものですが、MySQL系はこの制約が緩く、

要はなんでもOKだったのです。

しかし、MySQL8.4から上記のように参照される側のカラムについて厳格になったので、

それに合わせた修正を行いました。

(※今まで緩すぎたのです。本来はこう有るべきなのです。)

アウトライン(左側の小さい画面)の描画回数が大きく、

CPU使用率が高かったので、500ミリ秒間は再描画しないようにしました。

また、オブジェクトを移動する際、マウスを押してから離す時間が長いと、

(0,0) に移動してしまう不具合があったので、修正しています。

DDLとクラスファイル出力時に、

出力条件(対象テーブルの設定とか、ファイルをどこに出力するか)を一定数保持して、

その条件を再度利用できるようしました。

何度もエクスポートしていると、条件を毎回入力しないといけないので、

この煩わしさのために対応しました。

実際に、プログラムファイルを出力することが多く、

対象テーブルの絞り込みやスキーマなどの出力条件を再利用できる形になって楽になりました。


やるやるいっている、検索の修正、VIEWの対応、外部キーパースなどは全く手を付けていないです。

ebonyrackは実案件でも使っているのですが、VIEWとか、外部キーパースは使わないですよね。。

というわけで、実際に使っているうちに遭遇した不具合とか、不都合の修正を行っていました。

そろそろ、JAVA21にしようかなというフェーズに来ています。

1.0.0 には21にしたいかなと。。

以上

投稿日時:2025年06月10日 22:20   カテゴリー:java, mariadb  

誰も見ていないこのブログを立ち上げ、2024年11月で11年目となります。

丸10年ですね。

約200弱の記事を書いてきましたが、今見直してみると過去のやつは不十分なものもあるなと感じています。

さくらのVPSのCentos7で運用していますが、そろそろリプレイスが必要だな、とも思いつつ。。

この10年振り返ってみると、年々仮想化が強くなり、ITの巨人の肩にのる割合が増えている感じがします。

今後もこの流れは続くのかなとは思いますが、やはり銀の弾丸はないものなので、

特性を把握し、うまく利用していくための学習・情報収集・試行が必要なのかなと思います。

一方で、ビジネスとしては、小さいシステムが淘汰されていくのだろうかと感じつつ、

小さいシステムをちゃんと構築する経験を踏めなくなっていくのは、

今後の人材育成においても懸念に感じています。

確実なことはわからないのが世の常かもしれませんが、

このブログを少しでも長く続けられればいいなと今は思うばかりです。

以上

投稿日時:2024年10月30日 22:47   カテゴリー:other