匹配 UTF-8 编码字符的模式。

给定一个有效的 UTF-8 字节序列,我想遍历每个已编码字符。在我的工作环境(LuaTeX)中,仅可使用 Lua 5.2 和 LuaJIT 2.0.3,因此无法使用随 Lua 5.3 附带的 UTF-8 库提供的任何设施。

该库包括一个用于所述目的的模式 utf8.charpattern,其中“_精确匹配一次 UTF-8 字节序列_”。我以为我可以简单地将其复制并传递给 string.gmatch

-- 取自 http://www.lua.org/manual/5.3/manual.html#pdf-utf8.charpattern
local utf8charpattern = "[\0-\x7F\xC2-\xF4][\x80-\xBF]*"

-- 在两种情况下都正确显示 `14`(见下面)
print( string.len(utf8charpattern) )

local function print_characters( s )
    local i = 1

    for c in s:gmatch( utf8charpattern ) do
        io.stdout:write( "#" , i , "\t" , c , "\n" )

        i = i + 1
    end
end

print_characters( "cántico" )

在 Lua 5.2(标准 luatex)下,这种方法正常工作。但是,如果我切换到 LuaJIT 变体(luajittex),它将失败并显示以下消息:

malformed pattern (missing ']')

在努力解决问题一段时间后,我意识到问题在于模式开头的 \0 字节。字符串大小(14 字节)在两种情况下都被 Lua 实现正确地知道,但似乎在 LuaJIT 下, 模式匹配函数(我也尝试了 string.match)在找到臭名昭著的 0 字节后停止读取模式。

问题

  • 这种行为是否正确,还是 LuaJIT 中的一个错误?
  • 无论是正确行为还是错误,如何解决?

我已经尝试将 \0 替换为 %z,但它似乎与正在使用的范围特性不兼容。只是尝试搞弄它时,我用 \001 替换了 \0,看起来工作良好。尽管我对此一无所知,但我怀疑我的任何字符串都包含一个 0 字节,因此这可能是一个可接受的解决方案。尽管如此,请解释为什么它是可接受的。

点赞